xAI судится с Миннесотой из-за запрета на nudification. Под ударом и «интимные» бедра

xAI, компания Илона Маска, подала в суд на генпрокурора Миннесоты, пытаясь заблокировать новый закон о nudification, который должен заработать уже в следующем месяце. В иске сервис говорит, что норма слишком широкая: по его версии, она задевает не только откровенно вредные инструменты, но и обычные AI-сценарии — политические, сатирические, образовательные.

Миннесота взялась за этот класс сервисов не на пустом месте. После праздничных выходных Grok оказался в центре скандала: пользователи массово генерировали сексуализированные изображения реальных людей без их согласия, в том числе несовершеннолетних. По одной из оценок, таких картинок с детьми могло быть до 23 000. Потом xAI заявила, что поменяла возможности Grok, чтобы пресечь подобные сценарии.

Теперь спор крутится вокруг закона HF 1606. Он запрещает доступ, скачивание и использование nudification-технологий, если софт автоматически раздевает людей на изображениях. Плюс даёт Миннесоте право штрафовать компании и открывает путь к искам со стороны пострадавших. Судя по формулировкам, закон бьёт не только по самой картинке, но и по платформе, которая её делает.

В иске xAI пишет, что в определение nudification Миннесота заложила слишком много расплывчатых критериев. Компания спорит и с тем, как закон описывает «интимные» части тела, и с тем, что там вообще не учитывается намерение пользователя или разработчика. Отдельный упрёк — штрафы привязаны к числу сгенерированных изображений, а не к реальному вреду. Из-за этого суммы, по версии xAI, могут очень быстро разрастись.

История с Grok важна не только из-за самой модели. Она показывает, как быстро регуляторы начали отвечать на злоупотребления генеративным ИИ. Несколько месяцев назад xAI уже пыталась убрать токсичный эффект от вирусных экспериментов пользователей, а теперь всё ушло в суд. Для отрасли это ещё и проверка: насколько далеко штат может зайти в наказании за инструменты, которые создают не только запрещённый контент, но и вполне легальные изображения, оказавшиеся рядом с ним.

Закон о nudification в Миннесоте

Главный упрёк компании простой: закон, по её версии, наказывает не только за порнографический результат, но и за сам факт работы сервиса. В иске отдельно перечислены случаи, которые, как считает xAI, тоже могут попасть под раздачу: сатира, политические изображения, материалы с образовательной или медицинской ценностью.

Есть там и расчёт на случай массового использования. xAI пишет: если десять картинок, попадающих под HF 1606, обернутся штрафом в $5 млн, то при сотне тысяч таких изображений счёт теоретически может дойти до $50 млрд. Для компании это не просто громкая цифра. Это аргумент о том, что закон, по её мнению, стал слишком жёстким для публичного AI-сервиса с миллионами пользователей и миллиардными объёмами генераций.

При этом сама xAI не спорит с тем, что штаты могут запрещать распространение искусственно созданных обнажённых изображений реальных людей без согласия. Спор идёт о границе. Где заканчивается защита людей от унижения и начинается запрет на технологию как таковую. И тут же всплывает ещё один вопрос: можно ли проводить эту черту через определение «интимных» частей тела и автоматическую классификацию контента.

Весь конфликт ещё и накладывается на политику самого Илона Маска и его компаний. После прошлых инцидентов с Grok xAI уже публично обещала сделать X безопаснее и жёстче относиться к детской сексуальной эксплуатации, нежелательной наготе и другому нежелательному сексуальному контенту. Поэтому новый иск выглядит не как спор с запретом на откровенно вредные изображения, а как попытка ограничить закон, который, по мнению xAI, режет и добросовестные сценарии генерации.

Ответ Миннесоты может появиться быстро: сам закон должен вступить в силу уже через месяц. Если суд встанет на сторону штата, это будет одна из первых заметных проверок для региональных анти-nudification правил в США. Если же xAI добьётся приостановки, другим компаниям, работающим с генерацией изображений, придётся ориентироваться уже на более осторожную и дорогую модель соблюдения закона.