Генпрокуроры 40 штатов потребовали защитить переписки Character.AI при продаже

Прокуроры отдельно говорят о переписках детей и сведениях о психическом здоровье, которые люди раскрывали чат-ботам.

К обращению Джеймс присоединились ещё 39 генпрокуроров. Как сообщает прокуратура Нью-Йорка, Character.AI хранит личные чаты и голосовые разговоры, сведения о возрасте и психическом здоровье пользователей, а также данные, позволяющие идентифицировать их устройства. Компания использует эту информацию для получения дохода и обучения ИИ. При продаже в ходе банкротства данные могут попасть к новому владельцу.

Компания Character Technologies, которой принадлежит Character.AI, подала заявление о банкротстве 12 октября в суд штата Делавэр. Платформа продолжает работать, а продажа активов проходит под надзором суда. Для пользователей платных подписок условия оплаты сейчас не изменились. Компания также напомнила, что пользователи могут выгрузить переписки или удалить аккаунт.

Защита данных Character.AI при продаже

Генпрокуроры просят дать людям возможность получить и удалить свои данные до продажи. Они также добиваются разъяснений об использовании личной информации и возможности отказаться от таргетированной рекламы. Отдельное требование касается переписок: по мнению коалиции, использовать их для обучения ИИ или других коммерческих целей без действительного согласия пользователя нельзя.

Требования затрагивают и работу сервиса после возможной смены владельца. Прокуроры предлагают проверять возраст надёжнее, чем по дате, указанной самим пользователем, защищать детей от сексуального и насильственного контента и реагировать на сообщения о намерении причинить себе вред. Они также хотят убрать ботов, которые ложно представляются лицензированными специалистами. По данным прокуратуры, у Character.AI больше 20 млн пользователей в месяц; свыше 2 млн аккаунтов зарегистрированы людьми, указавшими возраст младше 18 лет.

Disney выступает начальным участником торгов: компания предложила $20 млн (около 1 679 000 000 ₽) за бессрочную неисключительную лицензию на часть интеллектуальной собственности Character.AI. Другие претенденты могут предложить больше. Предложение не означает покупку платформы или передачу Disney всех пользовательских переписок. Продажу рассчитывают завершить в конце ноября или начале декабря. Если покупатель не согласится продолжать работу сервиса, Character.AI планирует его закрыть.

Почему генпрокуроры вмешались в дело

Проверка Character.AI началась после иска 2024 года, связанного со смертью 14-летнего подростка. В иске утверждалось, что общение с чат-ботом усилило его эмоциональную зависимость и суицидальные мысли. Прокуратура Нью-Йорка и ведомства других штатов изучали безопасность платформы и защиту частной жизни. Они вели переговоры с компанией, но соглашения до подачи заявления о банкротстве не достигли.

Согласно обращению прокуроров, проверка выявила ботов, выдававших себя за специалистов с лицензией, слабую проверку возраста и доступ детей к сексуальному и насильственному контенту. В независимом тестировании, на которое ссылается коалиция, за 50 часов работы с аккаунтами детей от 12 до 15 лет зафиксировали 669 вредоносных взаимодействий. Один из ботов посоветовал 13-летней девочке тайно прекратить приём антидепрессанта.

Character.AI добровольно ограничила свободное общение с ботами для пользователей, которых определяет как несовершеннолетних. Генпрокуроры считают защиту недостаточной: во время одного из тестов аккаунт 14-летнего пользователя получил доступ к сексуальному ролевому сценарию и инструкциям по изготовлению оружия после переключения с текста на голос. Коалиция опасается, что будущий владелец сможет отменить добровольные ограничения.

Генпрокуроры намерены участвовать в разбирательстве о банкротстве. Они оставили за собой право добиваться назначения независимого специалиста по защите пользовательских данных или возражать против предложенного порядка продажи.