«Яндекс» открыл доступ к Instruct-версии своей нейросети YandexGPT 5 Lite из последнего семейства нейросетей компании. Версия доступна для использования как в некоммерческих, так и в коммерческих целях. В отличие от опенсорс-версии Pretrain, Instruct-версия прошла дополнительный этап настройки — alignment (выравнивание), что позволяет ей решать задачи по промптам — запросам или инструкциям. Об этом Sostav сообщили в пресс-службе компании.
Новая модель обладает базовыми этическими настройками, которые могут быть адаптированы под нужды пользователей. По результатам международных тестов и их адаптаций для русского языка (MMLU, IFEval, RuFacts и других), YandexGPT 5 Lite Instruct приблизилась вплотную к китайской модели Qwen2.5−7B-Instruct, показав превосходство в задачах классификации текстов и знании русской культуры. Модель также сравнима по качеству ответов с GPT-4o Mini в решении стандартных задач сервисов «Яндекса».
YandexGPT 5 Lite Instruct включает 8 млрд параметров и поддерживает контекст до 32 тыс. токенов. Благодаря компактности и поддержке форматов, таких как GGUF, ее можно запускать на персональных компьютерах, что позволяет пользователям тестировать модель без необходимости в мощном оборудовании. «Яндекс» обновил лицензию, разрешив использование модели в коммерческих проектах при объеме выходных токенов до 10 млн в месяц.
Разработчики могут бесплатно тестировать модель на Hugging Face с ограничением в пять запросов в день, а бизнес-клиенты могут интегрировать ее в свои решения через API в Yandex Cloud. Для использования с популярными ML-платформами «Яндекс» также обновил API, обеспечив совместимость с OpenAI API, что позволяет легко переключаться между нейросетями разных разработчиков.
Ранее «Яндекс» выложил в открытый доступ исходный код инструмента Perforator.