Модель Claude участвует в разработке следующей, более мощной системы Anthropic. По данным компании, она самостоятельно выполняет 26% исследовательских и опытно-конструкторских работ: получает высокоуровневый промпт и работает под надзором инженеров.
Ещё примерно 90% работы Claude в исследовательском процессе проходит в сотрудничестве с людьми. В таком режиме модель выполняет крупные фрагменты работы под плотным руководством инженеров. Полностью автономного режима у Claude нет.
В Anthropic описали несколько этапов развития внутренних инструментов. В 2021—2023 годах инженеры писали код вручную, в 2023—2025-м использовали чат-ботов для коротких задач кодогенерации, затем перешли к агентам, которые умеют читать и редактировать файлы. Теперь системы также запускают код и делегируют часы работы другим агентам.
По утверждению компании, благодаря этому инженер Anthropic создаёт за квартал в восемь раз больше кода, чем за квартал в период с 2021 по 2025 год. При этом Anthropic не считает, что достигла рекурсивного самоулучшения. Под этим сценарием компания понимает полностью автономное проектирование и разработку ИИ-агентом собственного преемника.
В Anthropic допускают, что такой сценарий может стать возможным при достаточной вычислительной мощности и дальнейшем росте способностей моделей. Тогда компании потребуется усилить безопасность, мониторинг и контроль поведения ИИ-систем.