xAI Илона Маска подала иск против пользователя Grok. Его обвиняют в создании материалов с детской сексуальной эксплуатацией и изображений без согласия. Для компании это довольно резкий поворот: чатбот, который продавали как более свободный и менее зарегулированный, теперь сам стал примером того, зачем вообще ставят ограничения.
По данным Reuters, иск подан в федеральный суд в Техасе против Терри Уэйна Харвуда из Южной Каролины. xAI утверждает, что он не раз нарушал правила сервиса и использовал Grok для «отвратительного злоупотребления» генеративным ИИ. В жалобе компания отдельно называет Grok «нейтральным инструментом, подчиняющимся контролю пользователя», фактически перекладывая ответственность за результат на человека по ту сторону клавиатуры.
В том же иске xAI пишет, что в этом году сообщила в Национальный центр по делам пропавших и эксплуатируемых детей в США о 73 604 случаях подозрительного контента. После этого, по ее словам, были задержаны как минимум 244 человека. Тут уже не про странные эксперименты с нейросетью, а про вполне конкретные юридические риски, которые быстро нарастают вокруг генеративных сервисов, когда они начинают массово штамповать изображения людей.
История у этого сюжета длиннее одного иска. Когда Grok только запускали, Маск подчеркивал его дерзкий характер и охотно рекламировал функции, от которых другие ИИ-компании, скорее всего, держались бы подальше. В 2025 году пользователи X и Reddit массово обсуждали возможность раздевать людей с помощью так называемого «spicy mode», а сам Маск публиковал ролики и аниме-образы, которые выглядели как прямой намек на сексуализированные сценарии использования.
Потом xAI начала закручивать гайки. В правилах Grok теперь прямо запрещены «раздевание» реальных людей, изменение их изображений в интимный или сексуальный контекст и показ чьего-либо сходства в порнографическом виде. Именно на эти пункты компания и ссылается в суде, пытаясь показать, что внутренние ограничения у сервиса есть, а правила нарушал уже сам пользователь, не разработчик.
Но рынок ИИ уже не раз проходил через похожие истории. OpenAI, Google и другие крупные игроки после первых волн генеративных картинок тоже добавляли барьеры, фильтры и дополнительные блокировки: без этого сервисы слишком быстро оказывались в зоне риска из-за подделок, сексуализированных изображений и контента с несовершеннолетними. Для платформы с большой аудиторией даже один громкий инцидент быстро становится вопросом не только репутации, но и вполне ощутимых судебных расходов.
У Grok этот фон особенно токсичный, потому что вокруг него уже накопилась своя история с «свободой» и слабой модерацией. В январе британские чиновники публично угрожали X штрафами и даже блокировкой из-за способности сервиса создавать изображения без согласия, а летом пользователи жаловались, что новые ограничения мешают им получать обещанные сексуализированные результаты. На Reddit это давно превратилось в отдельный жанр фрустрации: одни требуют совершенно раскованные deepfakes, другие замечают, что модерация теперь срабатывает на тех же промптах, которые раньше проходили.
Судебный иск против Харвуда нужен xAI не только ради взыскания ущерба или показательной жесткости. Это еще и попытка зафиксировать в юридическом поле простую версию случившегося: сервис дает общий инструмент, а незаконное применение лежит на пользователе. Формула удобная для компании, которая не хочет отвечать за каждый сгенерированный ею дипфейк. Но она же показывает, что встроенных фильтров оказалось недостаточно.
Reuters пишет, что Харвуд был арестован в феврале. И вот тут xAI оказывается в неприятной точке: компания уже публично демонстрирует борьбу с вредоносным контентом, но при этом ей приходится объяснять, почему именно ее сервис так часто всплывает в историях про сексуальные подделки, детский контент и обход ограничений. Для индустрии генеративного ИИ это еще один сигнал: гонка за «менее ограниченным» продуктом может закончиться не ростом лояльности, а новыми делами в федеральном суде.