Яндекс представил YandexGPT Lite третьего поколения
![Яндекс представил YandexGPT Lite третьего поколения | Изображение 9 Яндекс представил YandexGPT Lite третьего поколения (02)](/wp-content/uploads/2024/05/02-800x400.png)
Яндекс запустил YandexGPT 3 Lite — облегчённую версию собственной генеративной нейросети третьего поколения. Она будет доступна клиентам облачной платформы Yandex Cloud через API. Новая модель полезна в сценариях, где важна скорость ответа: например, её можно использовать в чат-ботах, для проверки орфографии или анализа данных. Это оптимальная по цене и качеству коммерческая модель Яндекса для решения рутинных задач.
YandexGPT 3 Lite подходит для разных типов бизнеса, от небольших компаний до крупных организаций. С её помощью можно оптимизировать такие задачи, как консультация клиентов в чате и по телефону, подготовка ответов для службы поддержки, создание маркетинговых материалов или дайджеста рабочих встреч. Крупные компании со сложными бизнес-процессами и большим потоком информации могут применять её для анализа данных, необходимых для принятия решений.
Новая модель по многим параметрам превосходит YandexGPT 2 Lite — облегчённую модель предыдущего поколения. По итогам теста YaMMLU_ru (русскоязычной версии международного эталонного теста MMLU), новая модель даёт на 6 п.п. больше верных ответов, чем модель предыдущего поколения.
![Яндекс представил YandexGPT Lite третьего поколения | Изображение 10 Яндекс представил YandexGPT Lite третьего поколения (bzx3pdfzxepufh0kdpyfrhetcbrmer6gv7aove9nrgpqof3ug7cbxsxiuwr3gyosgatco gqz4ahr84u95johwflm1vqaepbns nyow9h6tl5nt2ifxelifrl4)](/wp-content/uploads/2024/05/bzx3pdfzxepufh0kdpyfrhetcbrmer6gv7aove9nrgpqof3ug7cbxsxiuwr3gyosgatco_gqz4ahr84u95johwflm1vqaepbns_nyow9h6tl5nt2ifxelifrl4-hk1hwbiorz3hpxgrmvxx3ov4kvwg.png)
Модели сравнивали также по методике Side by Side: нейросети отвечали на одни и те же вопросы, а эксперты выбирали лучший ответ. В среднем YandexGPT 3 Lite отвечала лучше, чем YandexGPT 2 Lite, в 68% случаев.
![Яндекс представил YandexGPT Lite третьего поколения | Изображение 11 Яндекс представил YandexGPT Lite третьего поколения (ld13pbfq8py3v wps wxbn2vl49 b9d8zpgwjplgwb9kscqom6zl5w2nawchunliqhaimgdxq3jjhl5sbwsgcmfx053n1pmsmbi1cvhmlmnif4jtqgtvwfcgk6d75tkmyciwvvezhf vkfnfuneuoa4)](/wp-content/uploads/2024/05/ld13pbfq8py3v-wps-wxbn2vl49-b9d8zpgwjplgwb9kscqom6zl5w2nawchunliqhaimgdxq3jjhl5sbwsgcmfx053n1pmsmbi1cvhmlmnif4jtqgtvwfcgk6d75tkmyciwvvezhf-vkfnfuneuoa4.png)
Эксперты оценивали также, насколько хорошо новая модель справляется с задачами классификации, генерации контента, ответами на вопросы и другими основными типами бизнес-задач. Вот как выглядят результаты тестирования:
![Яндекс представил YandexGPT Lite третьего поколения | Изображение 12 Яндекс представил YandexGPT Lite третьего поколения (jykqg wkamqiqcyfjkvb4otb 4vr gxk4sjzzcnlwgk6hij5qde3dyhta63pce)](/wp-content/uploads/2024/05/jykqg-wkamqiqcyfjkvb4otb_4vr_gxk4sjzzcnlwgk6hij5qde3dyhta63pce-t62lhro_e0rfr_pp1isfdmclo4uvv71c1fsgno_lb_ckgxkbrfev304s1qowywj2xpcwaqpltjojllrdnumoleyk.png)
Кроме того, новая модель допускает меньше орфографических и фактических ошибок, чем модель второго поколения YandexGPT 2 Lite.
![Яндекс представил YandexGPT Lite третьего поколения | Изображение 13 Яндекс представил YandexGPT Lite третьего поколения ()](/wp-content/uploads/2024/05/poognodogkhpyuruxlecojkrgtt3youtxznebwpqtsm7d21gxxwmy0rajlwozk87nltlv4cmudqwreydrmpnke3imxweyi7dx8mkzzcyfssormt0knf0czrewd7drg0kkjmqah8frpgvjt2hzu1igk0.png)
Для создания новой модели разработчики усовершенствовали все этапы обучения. В частности, улучшили отбор данных для предварительного этапа обучения (pretraining), повысив долю полезной информации. А кроме того, стали использовать на этом этапе технологию curriculum learning, позволяющую поэтапно усложнять данные. На втором этапе обучения (alignment, или выравнивание модели), включающем в себя обучение с подкреплением (reinforcement learning), улучшили модель для оценки качества ответов нейросети. Кроме того, в архитектуру нейросети добавили технологию Grouped Query Attention — она ускоряет обработку данных без потери качества.YandexGPT 3 Lite можно интегрировать в свои продукты через API в сервисе Foundation Models. Новая модель заменит предыдущую в течение месяца, но попробовать её можно уже сейчас. Стоимость использования YandexGPT 3 Lite — 20 копеек за тысячу токенов. Новые пользователи Yandex Cloud смогут бесплатно протестировать её в демо-режиме.