Глава Google DeepMind Демис Хассабис предложил создать независимую международную структуру, которая будет проверять самые мощные ИИ-модели до их выпуска и, если нужно, добиваться замедления их распространения. По его замыслу, стартовать такой проект должны США: именно американские компании сейчас задают темп в разработке продвинутых систем. Идея всплыла как раз в момент, когда разговор об AGI снова ушел из академических кругов в кабинеты чиновников.
В своем блоге Хассабис описал будущую организацию как независимый надзорный орган для frontier-моделей, то есть самых продвинутых систем на самом краю рынка. В него, по его версии, должны войти специалисты по безопасности ИИ, ученые и представители open source-сообщества. Среди задач он называет внешнюю оценку моделей перед релизом и рекомендации по временному ограничению доступа, если система покажет опасный уровень риска.
Хассабис отдельно пишет, что откладывать правила «на потом» уже не получится. В статье A Framework for Frontier AI and the Dawning of a New Age он говорит, что индустрия подходит к этапу, когда системы начнут выполнять широкий набор интеллектуальных задач на уровне человека или выше. Это еще не признание появления AGI, но уже попытка выстроить механизм контроля до того, как рынок снова побежит быстрее регуляторов.
По данным Axios, глава DeepMind несколько месяцев обсуждает эту инициативу с представителями администрации США, другими ИИ-лабораториями и европейскими чиновниками. Запустить новую организацию он рассчитывает до конца года. Задача непростая: в США до сих пор нет единого федерального режима для самых мощных моделей, да и международного механизма, который страны заранее признали бы обязательным для себя, тоже нет.
Идея внешнего контроля над передовыми моделями не новая, но до практики дело почти не доходило. Еще в 2023 году руководители OpenAI, Google и Anthropic публично говорили о лицензировании и тестировании самых мощных ИИ-систем до широкого запуска. Тогда же OpenAI, Google, Microsoft и Anthropic создали Frontier Model Forum — отраслевую площадку для обсуждения стандартов безопасности. Проблема в том, что такие объединения создают сами разработчики, так что вопрос независимости никуда не девается.
Параллельно государства пытались строить собственные институты оценки рисков. Великобритания в 2023 году запустила AI Safety Institute, а США в 2024 году создали похожую структуру внутри NIST. Эти центры уже работают с моделями крупнейших компаний, но в глобального арбитра так и не превратились и универсального права тормозить релизы на международном уровне не получили. Хассабис, по сути, предлагает поднять такую систему на следующий этаж.
Есть и еще одна причина, почему тема снова всплыла именно сейчас. В Европе уже действует AI Act, первый крупный пакет правил для искусственного интеллекта, и его требования вводятся поэтапно. Но этот закон регулирует рынок ЕС, а не весь мир, и не создает единую международную площадку, где США, Европа и другие центры разработки могли бы вместе оценивать frontier-модели. На этом фоне американское лидерство в ИИ дает Вашингтону влияние, но одновременно делает его стороной конфликта интересов.
Идея «замедлять распространение» тоже наверняка вызовет споры. Для одних это предохранитель на случай биологических, кибернетических и информационных рисков. Для других — удобный способ закрепить власть крупных лабораторий, у которых есть деньги на дорогие проверки, а у небольших игроков и open source-команд их нет. Хассабис старается заранее снять часть этих претензий, включая в модель управления научное сообщество и разработчиков открытого ПО, но на практике именно баланс интересов здесь и станет самым больным местом.
Google DeepMind уже не первый раз говорит о безопасности жестче, чем многие конкуренты. Ранее Хассабис и другие руководители ИИ-компаний поддерживали меры против использования генеративных систем в создании биологического оружия и настаивали на тестировании моделей с повышенным уровнем возможностей. Сейчас дискуссия стала шире: от лабораторных угроз она ушла к влиянию ИИ на занятость, образование, госуправление и конкуренцию на глобальном рынке.
Если инициативу все-таки оформят, 2026 год может стать первым, когда крупнейшие ИИ-лаборатории попробуют согласовать не просто добровольные обещания, а общий механизм допуска моделей к рынку. Ответ станет виден быстро: Хассабис говорит о запуске до конца года, так что в ближайшие месяцы станет ясно, готов ли Вашингтон поддержать структуру, которая в теории сможет сказать «не выпускайте это сейчас» даже самым влиятельным разработчикам.