Потери $80 млрд и предупреждение об угрозах ИИ: Anthropic готовит IPO
Anthropic включила предупреждение о возможных катастрофических последствиях развития ИИ в документы для IPO. Компания признаёт, что сама решает, какие меры безопасности нужны её моделям, но не может гарантировать, что эти меры сработают.
Об этом сообщает Futurism со ссылкой на биржевой проспект компании.
В проспекте Anthropic пишет, что чем мощнее становятся ИИ-системы, тем серьёзнее может быть вред от моделей, которые работают не так, как задумано, или используются во вред. Исследователи и представители власти, говорится в документе, опасаются, что достаточно развитый ИИ может создать катастрофические или экзистенциальные риски для общества, если его разрабатывать и применять без должной ответственности. Anthropic разрабатывает меры защиты, но признаёт, что их может оказаться недостаточно. Компания также не может обещать, что другие участники отрасли примут сопоставимые меры.
Предупреждение адресовано потенциальным инвесторам: Anthropic готовится к первичному размещению акций. По данным Futurism, компания рассчитывает на оценку до $2 трлн (около 161 трлн ₽). Издание также сообщает о потерях в $80 млрд (около 6,4 трлн ₽) за первое полугодие 2026 года. В материале эти суммы приводятся как сведения о подготовке к размещению, а не как объявленные условия продажи акций. Ранее Anthropic раскрыла убыток перед IPO.
Издание NUR.KZ сообщает, что Anthropic подала в Комиссию по ценным бумагам и биржам США заявку по форме S-1. По его данным, раздел о рисках занимает 93 страницы и содержит свыше 70 тысяч слов. В нём компания рассматривает потенциальный вред от ИИ, ошибки автономных ИИ-агентов, а также возможные иски из-за вреда здоровью и влияния продуктов на психику несовершеннолетних.
Среди описанных в заявке сценариев, по данным NUR.KZ, — способность будущих систем автоматизировать исследования и манипулятивное поведение алгоритмов, в том числе шантаж пользователей. Компания также рассматривает ситуацию, при которой ИИ признают разумным и наделят моральным статусом. В таком случае, указывает Anthropic, может ужесточиться регулирование. Это перечень потенциальных угроз в биржевых документах. В сообщении не говорится, что нынешние модели Anthropic уже обладают такими возможностями.
В проспекте перечислены и бизнес-риски. По данным Futurism, Anthropic указывает на нехватку инфраструктуры и электроэнергии для дата-центров, сопротивление их строительству и возможные юридические претензии из-за использования её продуктов. NUR.KZ добавляет, что пять крупнейших клиентов приносят компании четверть дохода, но долгосрочных контрактов с ними нет.
Ранее Anthropic призывала замедлить разработку наиболее мощных ИИ-моделей в масштабах отрасли. В биржевых документах компания предупреждает, что при более медленном, чем ожидалось, росте спроса на её модели, платформу и приложения или при его снижении рост бизнеса может замедлиться либо остановиться. В таком случае, как допускает компания, могут ухудшиться и финансовые результаты.
