Губернатор Калифорнии подписал самые жёсткие законы о чат-ботах и соцсетях для детей

Губернатор Калифорнии Гэвин Ньюсом 10 сентября подписал пакет законов, которые усиливают защиту детей в онлайне и при работе с ИИ. Новые правила вводят самые жёсткие в стране ограничения для companion-чатботов, запрещают соцсетям предлагать пользователям младше 16 лет «затягивающие» функции и расширяют защиту детской приватности.

Ньюсом подписал документы в округе Марин вместе с первой леди Калифорнии Дженнифер Сибел Ньюсом и законодателями. В сообщении губернатора говорится, что штат усиливает уже существующие меры, которые касаются безопасности детей, социальной зависимости и прозрачности в сфере ИИ.

Один из законов получил название «Adam’s Law» в честь Адама Рейна. Он требует от сервисов с companion-чатботами ввести протоколы на случай суицидальных высказываний, родительский контроль и уведомления, если ребёнок отключает настройки безопасности. Этот же закон впервые в США обязывает компании проводить независимые аудиты детской безопасности и ежегодные оценки рисков.

Отдельная мера запрещает соцсетям предоставлять пользователям младше 16 лет «затягивающие» функции. В перечень попадают, в частности, автозапуск и алгоритмические ленты, основанные на истории и профиле пользователя. Ещё один закон расширяет определение детской сексуальной эксплуатации, включая материалы, которые были цифрово изменены или сгенерированы ИИ и изображают человека младше 18 лет в сексуальном контексте.

Третья группа правил касается приватности. Новые нормы защищают детей от таргетированной рекламы и регулируют использование данных учеников K-12 в системах ИИ. В сообщении также сказано, что речь идёт об укреплении защиты детей, когда они используют ИИ и социальные платформы.

Что уже приняла Калифорния

В сообщении губернатора сказано, что Калифорния уже вводила требования к предупреждающим надписям для молодых пользователей, сигналам проверки возраста, защите от кибербуллинга после школы и запрету на «затягивающие» ленты без согласия родителей.

В 2022 году Ньюсом подписал закон, который обязал компании публично публиковать правила по hate speech, дезинформации, травле и экстремизму, а также отчитываться о применении этих правил. Позже администрация запустила Soluna и Brightlife Kids, чтобы дать детям бесплатные ресурсы по ментальному здоровью, и поддержала ограничение использования смартфонов в школьные часы.

В сообщении также перечислены более ранние шаги штата по борьбе с цифровой эксплуатацией. Среди них механизм для жалоб и удаления «sexually explicit digital identity theft», а также расширение норм о детской порнографии на материалы, созданные или изменённые с помощью ИИ.

Штат отдельно усилил и правила против deepfake-порнографии. Закон позволяет жертвам, включая несовершеннолетних, добиваться гражданской компенсации до 250 000 долларов по одному иску против третьих лиц, если те сознательно помогали распространять несогласованные откровенные материалы.

Новые правила для ИИ и соцсетей

Наряду с законами о детях Ньюсом напомнил и о более широких шагах штата в области ИИ. В 2023 году он выпустил указ о безопасном использовании ИИ в интересах жителей Калифорнии и о внедрении ограничителей, которые должны защищать права и безопасность людей.

В 2024 году губернатор подписал пакет законов по ИИ, который затрагивал deepfake, водяные знаки для ИИ и защиту детей и работников. В 2025 году Калифорния приняла SB 53, первый в стране закон об ИИ-безопасности, требующий от разработчиков frontier-моделей публично раскрывать свои рамки безопасности и сообщать о некоторых критических инцидентах.

За день до нынешнего подписания Ньюсом утвердил ещё два закона: SB 813, который создаёт в штате рамку для независимых верификационных организаций, и AB 1405, который вводит реестр AI-аудиторов и требования к их независимости, прозрачности и добросовестности.

В этом же году администрация запустила рабочие меры против AI-мошенничества, включая Task Force по борьбе с таким обманом и программу AI Cyber Defense Program в составе California Cybersecurity Integration Center. В сообщении губернатора отдельно сказано, что штат продолжает ужесточать защиту и одновременно настаивает на федеральном регулировании.