«Яндекс» представил YandexGPT 3 Lite — облегчённую версию генеративной нейросети третьего поколения. Модель будет доступна клиентам облачной платформы Yandex Cloud через API. Её можно использовать там, где требуется скорость ответа. Например, в чат-ботах, для проверки орфографии или анализа данных. Об этом Sostav сообщили в компании.
Там уточнили, что новая модель превосходит YandexGPT 2 Lite «по многим параметрам». По итогам теста YaMMLU_ru новая модель даёт на шесть процентных пунктов больше верных ответов, чем модель предыдущего поколения.
Модели также сравнивали по методике side by side: нейросети отвечали на одни и те же вопросы, а эксперты выбирали лучший ответ. В среднем YandexGPT 3 Lite отвечала лучше, чем YandexGPT 2 Lite, в 68% случаев, добавили в «Яндексе».
Кроме того, эксперты оценивали, насколько хорошо новая модель справляется с задачами классификации, генерации контента, ответами на вопросы и другими основными типами бизнес-задач.
Ещё в компании отметили, что новая модель допускает меньше орфографических и фактических ошибок, чем модель второго поколения.
Для создания новой модели разработчики усовершенствовали все этапы обучения. В частности, улучшили отбор данных для предварительного этапа обучения, повысив долю полезной информации. На втором этапе обучения, включающем в себя обучение с подкреплением, улучшили модель для оценки качества ответов нейросети. Кроме того, в архитектуру нейросети добавили технологию, которая ускоряет обработку данных без потери качества.
«С помощью модели YandexGPT 3 Lite можно оптимизировать такие задачи, как консультация клиентов в чате и по телефону, подготовка ответов для службы поддержки, создание маркетинговых материалов или дайджеста рабочих встреч. Крупные компании со сложными бизнес-процессами и большим потоком информации могут применять её для анализа данных, необходимых для принятия решений», — пояснили в компании.
Отмечается, что новую ИИ-модель можно интегрировать в свои продукты через API в сервисе Foundation Models. YandexGPT 3 Lite заменит предыдущую в течение месяца. Но протестировать её можно сейчас. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за 1 тыс. токенов. Новые пользователи Yandex Cloud смогут бесплатно протестировать модель в демо-режиме.
Напомним, «Яндекс» представил линейку нейросетей YandexGPT 3 в марте этого года. Первой языковой моделью в ней стала YandexGPT 3 Pro.