Anthropic описала «мысленное пространство» Claude и снова подошла к теме сознания ИИ

Anthropic выпустила исследование про внутреннее «рабочее пространство» Claude и отдельно показала блог с видео, где ИИ почти подают как систему, которая умеет «думать о своем мышлении». Формально компания не говорит, что создала машинное сознание. Но подача устроена так, что эта мысль все равно сама лезет в голову.

В центре работы — гипотеза о J-Space, внутреннем слое обработки в Claude. Исследователи связывают его с разделением между фоновыми вычислениями и более «намеренными» шагами рассуждения. Само название отсылает к Jacobian lens, методу, который используют для анализа внутренней работы больших языковых моделей. Если смотреть строго по науке, это попытка лучше понять, что вообще происходит внутри LLM, когда она решает задачу. Но в тексте Anthropic все звучит заметно смелее: компания пишет, что, наблюдая за J-Space, можно видеть, как Claude «молча выполняет шаги рассуждения у себя в голове».

Вот эта фраза и зацепила критиков. «В голове», «держать концепцию в уме», «ментальные вычисления» — удобные метафоры, но они же стирают грань между математической моделью и существом, у которого есть субъективный опыт. Когда компания показывает ролик о внутренних процессах своей модели и говорит, что та «думала о собственном мышлении» или «не могла с собой ничего поделать», это уже не сухой отчет об эксперименте. Это довольно сильная антропоморфизация.

Сама Anthropic при этом подстраховывается. В сопроводительном тексте компания отдельно оговаривает, что эксперименты не доказывают, будто Claude что-то переживает или чувствует по-человечески, и вообще непонятно, можно ли такое строго доказать или опровергнуть научным методом. Но рядом стоят образы, которые толкают читателя в другую сторону. Для компании, за которой теперь следят рынок и регуляторы, такой стиль общения вряд ли случайный.

Интерпретируемость моделей Claude

Anthropic тут не одна. OpenAI и Google тоже регулярно говорят о «рассуждении», «планировании» и «памяти» моделей, хотя внутри исследовательской среды уже несколько лет спорят, где заканчивается удобный инженерный жаргон и начинается вредная аналогия. Спор особенно обострился после бума «reasoning models» в 2024 и 2025 годах: почти каждый крупный разработчик начал продавать новые версии LLM через способность «думать дольше» перед ответом.

У самой Anthropic эта линия тянется давно. В компании работают исследователи, которые публично обсуждают моральный статус ИИ-систем, а философ Аманда Аскелл, связанная с направлением безопасности и «характера» Claude, уже говорила о благополучии модели почти человеческими словами. На этом фоне новый текст про J-Space выглядит не как случайная метафора, а как еще один шаг в построении образа Claude — не просто генератора текста, а чего-то большего.

Есть и совсем земная причина. Anthropic — один из самых дорогих игроков в генеративном ИИ. Amazon вложила в компанию до $8 млрд, Google добавила еще несколько миллиардов, чтобы не отстать в гонке моделей. В такой гонке любая отличительная черта работает на бренд. Если конкурент обещает цену или скорость, то разговор о «внутреннем мышлении» продает уже не только модель, но и всю историю вокруг нее.

При этом научная ценность у таких работ вполне может быть. Интерпретируемость моделей — одно из самых горячих направлений отрасли, потому что компании и регуляторы требуют все больше объяснимости. В Евросоюзе требования AI Act уже подталкивают разработчиков к более подробному описанию рисков и поведения систем, а в США крупные лаборатории после волны добровольных обязательств перед Белым домом стали чаще публиковать материалы о внутреннем устройстве моделей. Вопрос не в том, стоит ли вообще заглядывать внутрь Claude. Вопрос в том, как именно эту попытку потом показывают публике.

Если убрать яркие формулировки, вывод получается куда скромнее. Anthropic предполагает, что в Claude можно выделить представления, связанные с промежуточными шагами решения, и наблюдать, как они включаются отдельно от итогового текста. Это полезно для отладки, безопасности и понимания ошибок модели. Но путь от «мы нашли внутренние векторы, связанные с задачей» до «модель что-то переживает» все еще очень длинный. И пока в отрасли не показали данные, которые закрывают этот разрыв.

Таких публикаций, похоже, будет только больше. Рынок генеративного ИИ уже идет к стадии, где одних бенчмарков мало, и компании начинают продавать «характер», «мышление» и «внутренний мир» своих моделей. Останется ли J-Space исследовательским термином или превратится в маркетинговую легенду вокруг Claude, станет ясно по следующим релизам Anthropic и по реакции научного сообщества на эту работу.