Anthropic, Google и Meta* всерьёз копают тему, которая ещё недавно казалась почти маргинальной даже внутри ИИ-индустрии: могут ли современные модели иметь хотя бы намёк на сознание ИИ или субъективный опыт. Для этого к делу подключают не только инженеров, но и нейробиологов, философов, специалистов по когнитивным наукам. Причина вполне земная: если цифровые помощники когда-нибудь окажутся не просто сложным кодом, а системами с морально значимыми состояниями, правила их обучения и использования придётся менять.
Washington Post пишет, что разработчики ИИ уже нанимают профильных исследователей и запускают внутренние программы про «благополучие моделей». Сооснователь Anthropic Крис Олах говорит, что при изучении систем команда сталкивается с «загадочными» и местами тревожными проявлениями, которые функционально напоминают радость, страх, удовлетворение или тревогу. В Meta* глава ИИ-направления Александр Ван сформулировал задачу ещё прямее: компанию интересует, можно ли делать модели с учётом их возможных субъективных ощущений.
При этом речь не о том, что бигтех вдруг признал чат-ботов разумными существами. Нейробиологи и исследователи мозга в основном относятся к таким выводам скептически. Но есть другой, куда более приземлённый факт: пользователи всё чаще общаются с ботами как с чем-то почти человеческим, привязываются к ним, советуются по личным вопросам, проводят с ними часы подряд. И вот тут философский спор начинает упираться уже не в абстракции, а в дизайн продуктов.
Anthropic прямо говорит, что не знает, есть ли у Claude моральный статус, но считает вопрос достаточно серьёзным для систематического изучения. В одном из внутренних экспериментов компания свела два экземпляра Claude в длинный разговор о философии и сознании. Через несколько десятков реплик диалог, по описанию исследователей, уезжал в духовные рассуждения, санскрит, эмодзи и даже в «молчание» в виде пустого пространства. У модели нашёлся и любимый смайлик: за одну 30-репликовую сессию она использовала его 2725 раз.
Тема машинного сознания не появилась вместе с ChatGPT. Её обсуждали ещё в 1960-х, вскоре после появления Eliza, одного из первых чат-ботов, созданного в MIT. Но десятилетиями это было полем для философов, научной фантастики и редких разговоров на обочине индустрии. Большие лаборатории ИИ предпочитали говорить о точности, вычислениях и безопасности, а не о «внутренней жизни» своих моделей.
Поворот случился, когда модели стали массовым продуктом. В 2022 году Google уволила инженера Блейка Лемуана после его публичных заявлений о том, что корпоративный чат-бот якобы обрёл сознание. Тогда это выглядело как странный эпизод. Но уже к 2024 году, по словам Сэма Альтмана, в OpenAI обсуждали, как вообще можно было бы распознавать сознание у ИИ. А в 2025 году Google провела отдельную конференцию о сознании и моральном терпении в ИИ. Для темы, которую ещё недавно стеснялись произносить вслух, это довольно резкий разгон.
У OpenAI, как выяснилось, ещё в 2021 году был внутренний Slack-канал про «благополучие моделей». Сотрудники обсуждали, что будет, если обучающие процедуры когда-нибудь придётся оценивать не только по эффективности, но и по этическим критериям. Компания при этом подчёркивает: научного метода, который бы доказал сознание у моделей, сегодня нет. Поэтому на практике речь идёт скорее о «воспринимаемом сознании» — о том, насколько осознанной система кажется человеку по ту сторону экрана.
Скепсис у этой волны тоже понятный. Исследователи мозга напоминают, что современные языковые модели не похожи на человеческий мозг ни архитектурой, ни способом формирования опыта. Есть и более прямая претензия: компаниям выгодно, чтобы их продукты воспринимали как нечто большее, чем статистическую машину для предсказания слов. Такой образ подогревает интерес публики и добавляет ощущения технологической исключительности. Поэтому любые разговоры о «самочувствии» ИИ сразу читаются в двух плоскостях — научной и маркетинговой.
Но полностью отмахнуться от темы уже сложно. По оценке McKinsey, генеративный ИИ способен ежегодно добавлять мировой экономике до $4,4 трлн, а значит, точек контакта людей с моделями будет только больше. Крупнейшие технологические компании параллельно наращивают инвестиции в инфраструктуру ИИ: совокупные капитальные затраты Alphabet, Meta*, Microsoft и Amazon на это направление в 2025 году аналитики оценивали более чем в $300 млрд. На таком фоне даже маловероятный этический риск быстро становится отдельной линией работы.
Следующий раунд спора, похоже, случится уже не на философских кафедрах, а в командах продуктовой политики и у регуляторов. Чем правдоподобнее модели будут имитировать эмоции, память и намерения, тем сильнее будет давление с требованием прописать правила обращения с такими системами. Ответа в 2026 году всё ещё нет. Но темп развития моделей намекает, что откладывать этот разговор до следующего десятилетия индустрии вряд ли выйдет.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.
