Сбер открыл доступ к языковой модели GFusion
Источник изображения: ChatGPT

«Сбер» открыл доступ к экспериментальной языковой модели GFusion, которая генерирует текст не последовательно, а по диффузионной схеме. Модель сначала собирает черновой вариант ответа, затем дорабатывает отдельные фрагменты. По данным компании, за счёт параллельной генерации GFusion работает до 45% быстрее GigaChat 3, на базе которой её обучали.

Классические большие языковые модели выдают ответ слева направо, токен за токеном. Если ошибка возникает в начале фразы или абзаца, системе приходится перестраивать продолжение с учётом этого сбоя. GFusion, как утверждают разработчики, может вернуться к нужному фрагменту и исправить его локально. Такой подход давно используют генераторы изображений и видео, а в текстовых моделях он остаётся скорее экспериментальным направлением.

Вместе с моделью «Сбер» выложил инструменты для обучения подобных систем и добавил поддержку архитектуры в SGLang, открытый фреймворк для запуска и обслуживания языковых моделей. Компания говорит о снижении требований к вычислительным ресурсам и ускорении экспериментов. Для рынка это важная деталь: стоимость инференса и доступ к GPU остаются главным ограничением для корпоративных ИИ-сервисов, особенно на локальной инфраструктуре.

Диффузионные языковые модели пытаются решить ту же задачу, что и обычные LLM, другим способом. В 2024 и 2025 годах похожие исследования публиковали Google, Inception Labs и ряд университетских команд, которые тестировали непоследовательную генерацию текста для сокращения задержки и улучшения структуры ответа. Если заявленные «Сбером» 45% подтвердятся в независимых тестах, технология может найти применение в автодополнении кода, ИИ-агентах и чат-сервисах, где лишние сотни миллисекунд влияют на пользовательский сценарий сильнее, чем размер модели.

Илья Игнатов
Технический журналист и новостник. Окончил МТУСИ по специальности «Информационная безопасность». Пишет о железе, софте и потребительской электронике с 2018 года. Верит, что хорошая новость — это когда всё по делу и без воды.

Leave a reply