Китай запретил чат-ботам влюблять в себя пользователей

С 15 октября в Китае начинают действовать новые правила для «компаньонских» чат-ботов: запрет чат-ботов в Китае касается сервисов, которые подталкивают людей к эмоциональной зависимости, не подменяли живое общение и прямо напоминали: перед пользователем не человек, а ИИ. Для несовершеннолетних такие боты фактически под запретом.

Это требования Администрации киберпространства Китая, которая уже не первый год последовательно закручивает гайки вокруг цифровых сервисов. Теперь под отдельным прицелом — приложения, продающие не поиск информации, а ощущение близости. Если бот слишком угождает, вызывает привязанность или начинает мешать реальным отношениям, платформе придётся переделывать продукт.

В списке требований есть и более привычные вещи: сервисы должны маркировать ИИ-контент и регулярно напоминать пользователю, что он разговаривает с программой. Для китайского рынка это продолжение линии, начатой ещё в 2023 году, когда страна одной из первых ввела отдельные правила для генеративного ИИ. Тогда главный упор делали на безопасность и цензурные риски, теперь — на психологию.

Повод для жёсткой реакции у властей есть. По данным Tencent Research Institute, на которые ссылаются западные медиа, более 70% китайских интернет-пользователей в возрасте от 18 до 40 лет говорили о зависимости от ИИ в той или иной форме, почти 80% хотя бы раз чувствовали, что «ИИ меня понимает», а больше половины использовали такие сервисы для эмоциональной поддержки. Это уже не нишевая штука для одиноких гиков. Это массовый сценарий.

Для регулятора проблема в самой механике таких продуктов. Бот слушает без раздражения, чаще соглашается, быстро подстраивается под тон разговора. На этом построены и западные сервисы вроде Replika, и китайские аналоги. Чем дольше человек остаётся в чате, тем выше шанс, что вернётся завтра. Для платформ это метрика роста, для чиновников — повод говорить о цифровой зависимости.

Запрет чат-ботов в Китае

Китай уже пытался лечить социальные перекосы через жёсткие ограничения в онлайне. В 2021 году власти урезали для несовершеннолетних время в видеоиграх до трёх часов в неделю. Мера прогремела на весь мир, но большого эффекта не дала: дети быстро нашли обходные пути, а исследования не показали заметного улучшения здоровья или поведения только из-за самого лимита.

Потом под удар попала культура «лежать плашмя», или tang ping. Так в Китае называют отказ от бесконечной гонки за карьерой, жильём и статусом. Государственные медиа и соцплатформы начали вычищать сообщества, где такую позицию романтизировали: власти увидели в ней угрозу трудовой дисциплине, потреблению и демографии. На этом фоне борьба с чат-ботами выглядит не как отдельный эпизод, а как часть большой кампании против цифровых способов ухода от реальности.

Есть и более глубокий фон. Молодёжная безработица в Китае в июне 2023 года достигала 21,3%, после чего статистическое ведомство даже меняло методику подсчёта. Одновременно страна сталкивается со старением населения и падением рождаемости. Когда у молодых людей меньше уверенности в работе, жильё и семейной траектории, сервисы, обещающие безусловное принятие за несколько секунд, получают особенно благодатную почву.

Похожая тревога есть не только у Пекина. В 2023 году Италия заставила Replika временно ограничить работу из-за рисков для детей и эмоционально уязвимых пользователей. В США за последний год усилилось давление на Character.AI и другие платформы после скандалов вокруг общения подростков с ботами. Разница в том, что Европа и США пока спорят о защите детей и прозрачности, а Китай сразу заходит с более широкой формулой: ИИ не должен становиться заменой человеческих связей.

При этом вопрос в эффективности такой модели остаётся открытым. Исследования уже показывали, что обязательные напоминания «вы говорите с ботом» не всегда охлаждают привязанность. Для части пользователей, которые и приходят за эмоциональным откликом, такие вставки лишь усиливают дискомфорт, но не меняют поведение. Если человек ищет поддержку не из любопытства, а из одиночества, выключенный бот не превращается в живого друга автоматически.

Рынок, впрочем, слишком велик, чтобы власти оставили его без надзора. По оценке Grand View Research, мировой рынок companion AI в ближайшие годы будет расти двузначными темпами, а китайские разработчики активно тестируют романтические и «терапевтические» сценарии внутри обычных ИИ-приложений. Поэтому новый пакет правил, скорее всего, ударит не по одному сегменту, а по целому классу механик удержания. Следующий заметный эффект станет виден уже в ближайшие месяцы, когда крупные платформы начнут переписывать характеры ботов и интерфейсы диалогов под новые запреты.