Anthropic приостановила доступ к моделям ИИ Fable 5 и Mythos 5 через несколько дней после публичного запуска. Компания заявила, что действует по распоряжению властей США, которые сослались на риски для национальной безопасности. Конкретные претензии в письме, по словам Anthropic, не раскрывались.
В сообщении компании говорится, что Fable 5 и Mythos 5 отключили для всех клиентов ради соблюдения требований. Как передает BBC, в Anthropic полагают, что у правительства появился способ обхода защитных механизмов Fable 5. После внутренней проверки компания пришла к выводу, что речь идет о небольшом числе уже известных уязвимостей, причем часть из них, по ее оценке, могут находить и другие общедоступные модели.
Перед выпуском Anthropic отдельно подчеркивала, что ограничила ранний доступ к новым системам из-за их способности помогать во взломе компьютерных систем. Компания называла Fable 5 наиболее сильной моделью в своей линейке и указывала на дополнительные защитные меры против киберрисков. Часть критиков сочла такую подачу элементом маркетинга, и нынешняя остановка только усилила этот спор.
История укладывается в более широкий тренд. Крупные разработчики сильных моделей все чаще выпускают их поэтапно, с ограничениями по доступу и отдельными проверками на биобезопасность и киберриски. В 2023 году Anthropic, OpenAI, Google и Meta* дали Белому дому добровольные обязательства по внешнему тестированию наиболее мощных систем, а в 2024 году США создали AI Safety Institute для оценки подобных угроз.
Anthropic основали в 2021 году бывшие руководители OpenAI Дарио Амодеи и Даниэла Амодеи. Компания остается одним из самых обеспеченных игроков сектора: Amazon ранее объявляла о планах вложить в Anthropic до $8 млрд, Google инвестировала в разработчика более $2 млрд. На этом фоне временное отключение флагманских моделей выглядит не частной технической мерой, а сигналом для всего рынка: регуляторы готовы вмешиваться уже после релиза, если считают, что защитные барьеры можно обойти.
Сроки возвращения Fable 5 и Mythos 5 Anthropic не назвала. Ответ на этот вопрос зависит от двух факторов: сможет ли компания закрыть найденные сценарии обхода и сочтут ли власти эти меры достаточными. Для рынка генеративного ИИ это важный тест, потому что конкуренты из OpenAI и Google готовят новые модели того же класса, и требования к их запуску после этого эпизода вряд ли станут мягче.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.