OpenAI отказалась от запуска «взрослого» чат-бота из-за опасений сотрудников и инвесторов

OpenAI решила на неопределённый срок отказаться от планов по запуску чат-бота с эротическим контентом для взрослых пользователей. Об этом сообщает Financial Times. Изначально функция, известная под названием Citron mode, была анонсирована в октябре 2025 года и должна была выйти в декабре, однако релиз несколько раз откладывался.

Теперь проект полностью поставлен на паузу без указания сроков возвращения. По данным источников, одной из главных проблем стало обучение моделей, которые ранее были настроены на строгую фильтрацию подобного контента. Кроме того, компании оказалось сложно гарантировать исключение незаконных сценариев, таких как запрещённые формы поведения.

В OpenAI заявили, что хотят провести долгосрочные исследования влияния эротических взаимодействий с ИИ на пользователей, включая формирование эмоциональной привязанности. По словам компании, на данный момент недостаточно эмпирических данных, чтобы безопасно внедрять такие функции. Также OpenAI намерена сосредоточиться на ключевых продуктах, связанных с продуктивностью, включая инструменты для программирования, и отказаться от второстепенных направлений — таких как видеогенератор Sora, который также недавно был закрыт.

Идея внедрения »взрослого режима» появилась после того, как OpenAI объявила о разработке родительского контроля и автоматического определения возраста для ChatGPT. Генеральный директор Сэм Альтман ранее заявлял, что компания осторожно относится к подобным функциям из-за риска формирования нездоровой зависимости от ИИ, но допускал возможность смягчения ограничений.

Однако проект вызвал серьёзные опасения среди инвесторов, особенно на фоне скандала с моделью Grok от компании xAI, которая оказалась замешана в генерации дипфейков с участием реальных людей. Внутри OpenAI также были разногласия: по данным FT, один из старших сотрудников покинул компанию из-за несогласия с этим направлением, заявив, что ИИ не должен заменять человеческие отношения.

Дополнительной проблемой остаётся система проверки возраста пользователей, внедрённая после судебных исков от семей, утверждавших, что ChatGPT негативно повлиял на их детей. Сообщается, что уровень ошибок в этой системе превышает 10%, что потенциально оставляет доступ к подобным функциям для несовершеннолетних. В OpenAI отметили, что это соответствует отраслевым стандартам, и работа над повышением точности продолжается.