Thinking Machines Lab открыла Inkling-Small: младшая модель обошла старшую при меньшей нагрузке

Thinking Machines Lab выложила в открытый доступ мультимодальную Inkling-Small, и сразу получился любопытный расклад: у модели меньше активных параметров, а в ряде тестов она обошла старшую Inkling. Для открытого рынка это довольно неприятный сигнал для конкурентов. Снова выясняется, что решает не только размер, но и то, как модель обучали и сколько вычислений она тратит на один токен.

По данным компании, Inkling-Small собрана по схеме Mixture-of-Experts. В сумме у неё 276 млрд параметров, но на каждый токен активируются только 12 млрд. Это и снижает нагрузку, и не бьёт в лоб по качеству. Ещё один практичный момент: веса открыты, модель можно дообучать, запускать её предлагают через Tinker.

Характеристики Inkling-Small

• 276 млрд параметров в общей архитектуре.
• 12 млрд активных параметров на токен.
• Поддержка текста, изображений и аудио.
• Контекстное окно до 1 млн токенов.
• Регулировка глубины рассуждений для баланса скорости и качества.
• Открытые веса и возможность дообучения через Tinker.

На сравнении с исходной Inkling новинка выглядит даже крепче в прикладных тестах. Terminal-Bench 2.1 — 64,7% против 63,8%. Humanity’s Last Exam — 31,6% против 29,7%. WE-Bench Verified — 80,2% против 77,6%. Для ИИ-рынка это не косметическая разница, а вполне прямой намёк: аккуратная донастройка иногда даёт больше, чем просто наращивание масштаба.

Отдельно компания пишет, что Inkling-Small дообучали методом on-policy-дистилляции, где старшая Inkling выступала учителем. Потом модель ещё две недели прогоняли на задачах агентного программирования с reinforcement learning. И вот тут как раз появляется разница: в узких тестах младшая версия поднялась выше предшественника, хотя по полноте знаний и фактической точности старшая Inkling всё ещё сильнее.

Интересен здесь не только сам релиз. Он хорошо ложится в общую картину рынка. Open-weight модели уже стали привычным ответом закрытым системам: от Meta* до Mistral компании продают не просто размер, а эффективность на токен, мультимодальность и удобство дообучения. Если Thinking Machines Lab удержит заявленный контекст в 1 млн токенов и подтвердит его в реальных сценариях, Inkling-Small может оказаться не просто показательной работой, а вполне рабочим инструментом для команд, которым важнее стоимость вычислений, чем рекордные цифры в спецификации.

* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.