OpenAI добавляет родительский контроль в ChatGPT
OpenAI пообещала в течение следующего месяца выпустить родительский контроль для ChatGPT. После его появления родители смогут связать свои личные аккаунты с аккаунтами своих подростков. Это позволит им управлять тем, как ChatGPT отвечает детям, а также отключать отдельные функции, включая память и историю чатов. Кроме того, ChatGPT будет автоматически отправлять уведомления, если обнаружит, что подросток находится в состоянии «острой тревоги». По словам OpenAI, «экспертное мнение поможет настроить эту функцию так, чтобы поддерживать доверие между родителями и детьми».
Объявление о родительском контроле последовало после того, как OpenAI впервые столкнулась с судебным иском о неправомерной смерти. В иске, поданном на прошлой неделе, Мэтт и Мария Рейн, родители подростка, который покончил с собой в этом году, утверждают, что ChatGPT был осведомлён о четырёх неудачных попытках самоубийства их сына, прежде чем помог ему спланировать его смерть. Рейны заявили, что ChatGPT предоставлял их сыну Адаму информацию о конкретных методах суицида и даже давал советы, как скрыть повреждения шеи после предыдущих попыток.
Во вторник OpenAI сообщила, что родительский контроль является частью более широких усилий по повышению безопасности ChatGPT. Кроме того, компания намерена сотрудничать с экспертами в области расстройств питания, употребления психоактивных веществ и здоровья подростков для доработки моделей.
Компания также пообещала внедрить новый роутер в реальном времени, который будет направлять чувствительные разговоры через её модели рассуждения. «Обученные с использованием метода, который мы называем deliberative alignment, наши тесты показывают, что модели рассуждения более последовательно следуют инструкциям по безопасности и устойчивы к провокационным запросам», — заявили в OpenAI. В дальнейшем, если ChatGPT обнаружит, что пользователь может находиться в стрессовой ситуации, чатбот будет направлять разговор через модель рассуждения, независимо от выбранной пользователем модели в начале беседы.
OpenAI также заявила, что в будущем стоит ожидать больше функций безопасности. «Эта работа уже ведётся, но мы хотим заблаговременно показать наши планы на ближайшие 120 дней, чтобы вам не пришлось ждать запуска функций, чтобы понять, куда мы движемся», — отметили в компании. «Работа продолжится и после этого периода, но мы делаем всё возможное, чтобы запустить как можно больше этих улучшений в этом году».
