Meta* добавила в подростковые настройки еще один слой защиты. Если переписка ребенка с Meta* AI покажет мысли о самоповреждении или суициде, родителям придет предупреждение. Сначала функцию включат для семейных аккаунтов с родительским контролем в США, Великобритании, Австралии и Канаде. Потом — во всех странах, где есть parental supervision.
Сейчас, если несовершеннолетний пользователь начинает говорить с ИИ о самоубийстве или самоповреждении, Meta* уже показывает контакты кризисной помощи и советует обратиться к взрослому. Теперь к этому добавится уведомление для родителя или опекуна. В письме, по словам компании, будут и рекомендации: как поговорить с ребенком, куда обратиться за поддержкой.
Для таких диалогов Meta* сделала отдельную ИИ-систему. Но последнее слово останется за человеком. Компания обещает вручную проверять все переписки, которые модель пометит как рискованные, чтобы реже срабатывали ложные тревоги. И если случай будет спорным, Meta* все равно выберет более осторожный вариант и отправит предупреждение.
Есть и еще одна новинка: компания готовит функцию, которая позволит связаться с экстренными службами, если разговор с Meta* AI покажет непосредственную угрозу жизни пользователя. Это касается не только подростков, но и взрослых. А настройка Limited Content в Instagram* теперь будет работать и для общения с Meta* AI — если родитель уже включил фильтрацию чувствительных тем.
Это уже не единичная история на рынке. В мае OpenAI показала Trusted Contact для ChatGPT: пользователь заранее указывает человека, с которым компания свяжется в критической ситуации. При этом давление на платформы растет и с другой стороны. В 2023 году более 40 штатов США подали иски против Meta*, заявив, что ее сервисы вредят психическому здоровью подростков, а в Великобритании уже действует Online Safety Act. Глобальный запуск функции Meta* планирует завершить до конца года, тогда и станет понятно, как часто компаниям приходится вмешиваться в переписку и где проходит граница между приватностью и безопасностью.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.