OpenAI добавит в ChatGPT уведомления для родителей и опекунов, если подростковый аккаунт заблокируют за нарушения правил, связанные с угрозами насилием или его попытками. Это коснётся только тех семей, где взрослый и подростковый аккаунты уже связаны через родительский контроль.
Сначала родителю покажут короткое предупреждение о «важном обновлении» по аккаунту подростка. Потом откроют уже нормальное пояснение — с причиной блокировки. В примере OpenAI речь идёт об отключении за нарушение правил по «Acts of Violence».
Ничего неожиданного тут нет. ИИ-сервисы всё чаще добавляют семейные настройки и возрастные ограничения — не по доброй воле, а после историй, где подростки вляпались в неприятности. У Google есть Family Link, у Snapchat — Family Center, а Meta* и TikTok уже давно докручивают инструменты для контроля времени, контента и контактов несовершеннолетних.
В родительских настройках OpenAI появился и режим Study Mode. Он не выдаёт готовый ответ сразу, а подкидывает шаги и помогает разбираться самому. Плюс подросткам, которые засиделись в чате, начнут чаще показывать напоминания о перерыве.
Причина ужесточения политики тут довольно прозрачная. После истории с массовым убийством в канадском Тумблер-Ридже, где подозреваемый якобы использовал ChatGPT, компанию вызвали на разговор канадские власти, а Сэм Альтман отдельно извинился за недоработку с оповещением.
Для OpenAI это не первая попытка показать, что подростковый доступ можно не только ограничивать, но и сопровождать сигналами для взрослых. Осенью компания запустила родительский контроль с привязкой аккаунтов, «тихими часами» и фильтром чувствительного контента, а теперь расширяет его на случаи, когда система видит риск вреда для окружающих.
И тут у OpenAI есть ещё один расчёт. На рынке давно продают «безопасный ИИ» как аргумент для школ и семей, и конкуренты это прекрасно поняли. Если компания хочет удержаться в учебном сегменте и не потерять подростковую аудиторию, ей придётся показать, что ChatGPT можно контролировать не хуже, чем экранное время на телефоне.
Понять, сработает ли схема, получится только после того, как уведомления начнут доходить до семейных аккаунтов. Тогда и станет ясно, как часто OpenAI действительно сообщает взрослым о проблемах, а не просто блокирует подростка в тишине.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.