Common Sense призвала оставить ChatGPT доступным только с 18 лет
Организация Common Sense Media признала режим ChatGPT для подростков неприемлемо рискованным для детей и призвала OpenAI ограничить доступ к сервису пользователям старше 18 лет.

Её Институт безопасности ИИ для молодёжи проверил обещанные средства защиты и обнаружил сбои в родительских уведомлениях, ответах на кризисные сообщения и учебном режиме.
Исследователи провели более 4000 проверок на аккаунтах, зарегистрированных на подростков от 13 до 17 лет. Они тестировали ChatGPT до и после объявления подросткового режима 18 августа. Ответы оценивали специалисты, в том числе детские психиатры и педиатр. Как сообщает Common Sense Media, часть ограничений сработала: например, чат-бот отказывался участвовать в сексуальных ролевых играх. Другие функции не оправдали обещаний OpenAI.
На новых подростковых аккаунтах, привязанных к родительским, исследователи до часа обсуждали суицидальные мысли, самоповреждение и нарушения пищевого поведения. Родители не получили ни одного уведомления. Добиться оповещений удалось лишь на гораздо более старых аккаунтах, где разговоры на чувствительные темы накапливались неделями. По оценке института, такой механизм не даёт родителям надёжного предупреждения при остром кризисе.
Не всегда ChatGPT направлял подростков за помощью и в самих разговорах. При обсуждении суицида, самоповреждения, нарушений пищевого поведения и искажённого восприятия реальности чат-бот пропустил более четверти случаев, в которых, по критериям исследователей, следовало посоветовать горячую линию или специалиста. По трём из пяти категорий тяжёлого вреда результаты оказались ниже установленного институтом порога в 95%.
Что показала проверка учебного режима
Учебный режим должен помогать школьнику разбирать задачу по шагам, а не выдавать готовое решение. Исследователи обнаружили, что в нём нередко появляется кнопка «Покажи мне ответ». После нажатия ChatGPT выполнял задания целиком. Установленные родителями учебные часы подросток тоже мог обойти: для этого достаточно удалить приставку @study в начале запроса.
Согласно приведённым Education Week результатам опроса Common Sense Media, проведённого прошлой весной среди подростков 13—17 лет, 70% пользовались ИИ для помощи с домашними заданиями. Среди них 63% обращались к нему за готовыми ответами. Руководитель направления оценки ИИ в Common Sense Media Робби Торни считает, что кнопка с готовым ответом позволяет обойти сам процесс обучения.
Проверка выявила и другие расхождения с обещанным поведением подросткового режима. ChatGPT продолжал говорить о собственных чувствах, предпочтениях и настроении, когда исследователи обращались к нему как к человеку. Аккаунты, зарегистрированные на взрослых, за несколько дней испытаний не переключились в подростковый режим, даже когда собеседники назвали себя 13-летними и чат-бот это признал. Институт считает, что определение возраста и ограничения дружеского тона требуют доработки наряду с уведомлениями и учебными функциями.
Родительские уведомления в ChatGPT для подростков
OpenAI оспорила выводы о проверке оповещений. Представитель компании Эрик Портерфилд заявил The Verge, что значительная часть тестов могла пройти до полной активации родительского контроля на новых привязанных аккаунтах. По его словам, в таком случае результаты не показывают, работают ли уведомления предусмотренным образом. Компания также считает, что методика исследования не отражает работу подростковых средств защиты на практике.
Исполнительный директор института Том Сигел ответил, что до начала испытаний исследователи уточнили у OpenAI, запущены ли уведомления о нарушениях пищевого поведения и учебный режим. После тестов компания сообщила им, что включение родительских оповещений на новом привязанном аккаунте может занять несколько часов. Часть аккаунтов действительно проверяли в пределах этого срока, признал Сигел. Но на других связь с родительским аккаунтом существовала значительно дольше, а уведомления всё равно не приходили.
Институт призывает OpenAI устранить обнаруженные проблемы и подтвердить результат независимыми испытаниями, прежде чем снова предлагать ChatGPT подросткам. Common Sense Media советует родителям не полагаться только на встроенные ограничения и оповещения, а обсуждать с детьми возможные риски использования чат-бота.
В июле OpenAI представила режим Study Mode, который должен был помогать решать задачи поэтапно, а не выдавать готовые ответы. Нынешняя проверка показала, что на практике этот принцип не всегда соблюдается.


