OpenAI запускает функцию прогнозирования возраста пользователей ChatGPT

OpenAI стала очередной компанией, которая решила ограничить доступ к своим сервисам в зависимости от возраста пользователей. Компания начала глобальное внедрение инструмента прогнозирования возраста, предназначенного для определения того, является ли пользователь несовершеннолетним.

Как говорится в официальном заявлении, модель анализирует совокупность поведенческих и аккаунтных сигналов. В их число входят срок существования аккаунта, типичное время активности пользователя, характер использования сервиса с течением времени, а также возраст, указанный самим пользователем. Если ChatGPT ошибочно определит человека как несовершеннолетнего, для исправления этого статуса потребуется пройти проверку личности — загрузить селфи через платформу верификации возраста Persona.

До сих пор многие компании в сфере ИИ предпочитали сначала запускать новые функции, а уже потом, постфактум, добавлять меры защиты и безопасности, когда возникали реальные проблемы. OpenAI уже оказывалась в центре скандала: компанию связывали с судебным иском о неправомерной смерти подростка, который, по утверждению истцов, использовал ChatGPT при планировании самоубийства. Лишь спустя несколько месяцев после этого OpenAI начала обсуждать автоматические ограничения контента для несовершеннолетних и создала консультативный совет по вопросам психического здоровья.

В данном случае компания, по всей видимости, заранее готовится к запуску так называемого «взрослого режима», который позволит создавать и потреблять контент, относящийся к категории NSFW. Однако, учитывая опыт других платформ с похожими инициативами — например, Roblox, у которого уже были серьёзные проблемы с защитой несовершеннолетних, — можно предположить, что часть подростков всё равно найдёт способы обхода существующих ограничений, если захочет пользоваться ChatGPT без возрастных рамок.