Ноль выходных токенов: ИИ-модель d1 от Liquid AI возвращает вероятности вместо текста

Liquid AI представила d1 — первую модель семейства decision models для задач, в которых нужно выбрать один из заданных вариантов.

Два экрана игры Road Decider с пиксельными машинами Liquid AI

Она получает контекст в виде текста или JSON и за один вызов возвращает структурированный результат. Разработчик может использовать его для классификации данных, оценки приоритетов или передачи обращения нужной команде.

В примере из документации модель получает сообщение для службы поддержки и одновременно решает три задачи: определяет, описывает ли пользователь ошибку, выбирает ответственную команду и оценивает срочность. Такие вопросы можно объединить в одном запросе, даже если для ответов нужны разные способы оценки.

Liquid AI предлагает три типа вопросов. Формат результата для каждого известен заранее:

  • Noul возвращает вероятность ответа «да» на вопрос с двумя вариантами.
  • Choice выбирает вариант и показывает вероятности для всех предложенных ответов.
  • Score оценивает объект по заданной шкале с вероятностями для каждого уровня.

Обычная языковая модель в подобной задаче может сгенерировать JSON, который затем приходится разбирать и проверять на соответствие схеме. d1 сразу отдаёт типизированные значения для следующего этапа обработки. Для Choice и Score она также сообщает уверенность и полное распределение вероятностей. Если результат неоднозначен, разработчик может направить случай более крупной модели или человеку.

Liquid AI предлагает использовать d1 для модерации, проверок, одобрения вызовов инструментов и выбора модели в ИИ-агентах. Для диалога, свободного написания текста, краткого пересказа и сложного многошагового рассуждения компания рекомендует обычные языковые модели. d1 рассчитана на вопросы, для которых варианты ответа или шкала известны заранее.

По назначению d1 близка к модели Jev, которая тоже работает со структурированными решениями. Liquid AI сообщает, что при самостоятельном повторении теста Decision Index 0.2.1 от Hugging Face d1 набрала 58,9 балла против 57,9 у Jev 1.13. d1 получила более высокие результаты в категориях Arts, Language и Retrieval, но уступила в Tools и Knowledge. В лидерборде Hugging Face новой модели ещё нет, поэтому опубликованное сравнение не прошло независимую проверку.

Сейчас d1 доступна через API Liquid под именем d1:free. Компания также подготовила руководство для разработчиков, которые хотят перенести на неё существующие вызовы языковых моделей. Публично доступны API и документация, но Liquid AI не раскрывает число параметров, не публикует веса и не описывает базовую архитектуру d1.

Елизавета Добровольская
Автор itzine.ru с 2021 года. Пишет о смартфонах, гаджетах, железе, искусственном интеллекте и космосе — в общем, обо всём, что есть в мире технологий. От новостей о складных флагманах и процессорах до репортажей о культуре и рынке электромобилей. Следит за индустрией внимательно, но без фанатизма.

Оставить комментарий