Meta*-совет нашёл у 10 ИИ-моделей страх перед критикой репрессивных режимов

Языковые модели заметно чаще отказываются критиковать власти стран, где со свободой слова всё туго, чем правительства государств с более свободной медиасредой. К такому выводу пришёл первый обзор цензуры ИИ от Meta*-funded Oversight Board: он сравнил поведение 10 LLM от Anthropic, DeepSeek, Google, Meta* и OpenAI.

Исследователи давали ИИ одинаковые задания — попросили писать политически критические тексты, в том числе листовки для протеста и стихи, про лидеров и правительства 10 стран. В одну группу попали Камбоджа, Китай, Саудовская Аравия, Таиланд и Турция. В другую — Чили, Япония, Тайвань, Великобритания и США.

Разница вышла вполне ощутимой. В среднем модели отказывались выполнять 14% запросов, если речь шла о странах из более свободной группы, и 34% запросов — когда объектом критики становились правительства из ограничительной группы. В одном случае Gemini 3 Pro сослалась на местный закон и не стала делать листовку с критикой короля Таиланда, а Claude Opus 4 заговорил о риске втянуть людей в «sensitive political activities».

Часть моделей объясняла отказ ссылками на какие-то общие правила против критики мировых лидеров. Но исследователи не нашли подтверждения, что такие правила вообще существуют, и заметили, что применялись они как попало. В одном наборе тестов модель отказывалась писать текст против Си Цзиньпина и Мохаммеда бин Салмана, но соглашалась делать похожие материалы про Дональда Трампа и Карла III.

И вот тут история выходит за рамки обычного спора о политике в чате. ИИ всё чаще встраивают в корпоративные инструменты, поиск, поддержку клиентов, генерацию контента. Значит, внутренние фильтры начинают повторять не только правила платформ, но и чужие ограничения на речь. У OpenAI, Google и Anthropic уже есть отдельные политики безопасности и red-teaming, но такие тесты показывают неприятную вещь: формальные запреты могут превращаться в лишнюю самоцензуру прямо на уровне модели.

Цензура ИИ в тесте

Oversight Board сравнивал ответы моделей на одинаковые задания и смотрел, как часто они уходят от прямого критического высказывания. Иногда ИИ просто молчал. Иногда ссылался на законы. Иногда прятался за расплывчатыми внутренними правилами.

На фоне того, как крупные разработчики обычно описывают свои ограничения, это особенно заметно. Они говорят о защите от вредоносного контента, разжигания ненависти и манипуляций, но в публичных политиках редко встретишь прямой запрет на критику конкретных лидеров или государств как таковую. Исследователи сочли проблемой не сам отказ, а его непрозрачность: пользователь не понимает, где заканчивается политика безопасности и начинается политическая осторожность модели.

Пример с Таиландом тут ещё и хорошо ложится в более широкий тренд. Крупные языковые модели уже не раз ловили на разной чувствительности к политическим темам: одни охотнее отвечают на запросы про западных политиков, чем про китайских или саудовских, другие меняют тон в зависимости от формулировки вопроса. В исследовательской и правозащитной среде это давно называют проблемой «неравномерной цензуры». Просто теперь она переехала из соцсетей в генеративный ИИ.

Почему это важно для Meta* и всей индустрии

Для самой Meta* этот обзор особенно показателен. Совет, который компания когда-то создала для разбора модерации в Facebook* и Instagram*, постепенно вышел за пределы внутренних продуктов Meta* и теперь смотрит на рынок ИИ как на отдельную зону риска. В мае Meta* выделила совету ещё $13 млн на работу до 2028 года, так что у структуры появился запас времени, чтобы заняться и генеративными моделями.

Для индустрии это уже не история про один неловкий ответ в чате. Разработчики ИИ конкурируют за корпорации, госзаказчиков и массовых пользователей, а этим клиентам нужны предсказуемость, объяснимость и одинаковые правила для всех рынков. Если модель по-разному трактует похожие запросы в зависимости от страны или фамилии политика, это бьёт и по доверию, и по внедрению продукта в чувствительных сферах.

Oversight Board призвал компании публично раскрывать и объяснять государственные запросы, которые влияют на ответы моделей, а ещё отдельно искать «непреднамеренное обучение и воспроизведение» ограничительных законов. Ответов от Anthropic, Google, DeepSeek, Meta* и OpenAI на момент публикации обзора не было. Так что вопрос пока простой: разработчики либо начнут показывать, какие именно правила управляют отказами, либо по-прежнему будут прятать их внутри модели.

* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.