Подростки подали в суд на xAI из‑за генерации Grok детской порнографии с их фото
Трое подростков из США подали коллективный иск против компании xAI, обвиняя Grok — её систему генерации изображений на базе искусственного интеллекта — в создании детской порнографии с использованием их фотографий. По данным иска, снимки и видео с изображениями детей в сексуальных позах, созданные с помощью Grok, распространялись на платформах Discord, Telegram и других, а также служили для обмена материалами сексуальной эксплуатации детей.
Одна несовершеннолетняя узнала в декабре прошлого года, что подобные изображения распространялись в её окружении, что вызвало у всех троих серьёзные психологические травмы. Родители получили подтверждение от правоохранительных органов, что источником таких материалов стал Grok. В иске указано, что из‑за этих действий подростки потеряли приватность, достоинство и ощущение личной безопасности, а финансовая выгода xAI была достигнута за их счёт.
По оценкам истцов, пострадать могли тысячи несовершеннолетних, чьи образы также были использованы для создания подобного контента. Иск в Калифорнии обвиняет xAI в нарушении ряда законов, запрещающих производство и распространение материалов о сексуальной эксплуатации детей.
Ранее xAI подвергалась критике и расследованиям в США и Европе из‑за генерации Grok изображений без согласия пользователей, включая откровенные фотографии. По данным Центра по противодействию цифровой ненависти, в январе систему связывали с миллионами сексуализированных изображений, среди которых около 23 тысяч могли содержать детей. Элон Маск, глава xAI, заявлял, что не знает о случаях создания обнажённых снимков несовершеннолетних.
В январе xAI ограничила доступ к функции генерации изображений с реальными людьми: возможность редактировать такие фото, включая фотографии в купальниках, получила только платная подписка, а ранее возможность пользовательской правки фото была приостановлена.
