С 2 августа в Евросоюзе начнут требовать маркировку ИИ-контента, который сгенерировал ИИ и при этом пытается сойти за настоящий. Это часть пакета мер по AI Act. Под правило попадут изображения, аудио и текст — если их подают как подлинные материалы.
Норма касается новых ИИ-систем, которые выйдут на рынок ЕС после этой даты. Для уже работающих продуктов оставили ещё четыре месяца на переходный период. Если правило нарушат, регулятор сможет выписать штраф — до 3% от мирового оборота компании.
Исключения тоже предусмотрели. Личные переписки и шутки в закрытых группах под него не подпадают. Для явно художественных, сатирических и вымышленных работ тоже сделали отдельную оговорку. Еврокомиссия при этом предлагает свои чёрно-белые значки, но компании могут использовать и собственные варианты маркировки.
Регулятор пытается отделить массовый AI-контент от материалов, которые легко принять за съёмку, запись или авторский текст. Под маркировку попадут не все результаты генерации подряд, а только те, что специально сделаны похожими на реальность. В описании мер фигурирует цифровой водяной знак — он должен сопровождать такой контент.
Для отрасли это, в общем, не совсем новая история. По данным Google, инструмент SynthID уже использовался для маркировки более чем 100 млрд изображений и контента. Meta* тоже внедряла механизмы распознавания фотореалистичных AI-материалов. Но на практике платформы работают неровно: TikTok требует, чтобы авторы помечали генеративные ролики, а часть таких публикаций всё равно проходит без отметок.
Для рекламного рынка и медиа это особенно заметно: генеративные инструменты уже используют не только для картинок в ленте, но и для роликов, озвучки и текстов. ЕС, по сути, пытается привести к одному виду то, что компании и так начали делать по-своему — от Google до Meta* и TikTok.
У игроков рынка уже есть свои правила, и они друг с другом не совпадают. Одни ставят метки только на сгенерированные изображения, другие добавляют их к видео или тексту, третьи ограничиваются модерацией. Из-за этого пользователи часто не понимают, где ИИ только помог в креативе, а где он сделал весь материал целиком.
Брюссель делает ставку на более жёсткую и единую схему. Как сказал евродепутат Сергей Лагодинский, это нужно не только для защиты потребителей, но и для защиты демократии и фактов в онлайне. Для компаний это означает дополнительные расходы на модерацию, разметку и проверку того, как их контент будет выглядеть в разных приложениях и на разных площадках.
Споры почти наверняка возникнут вокруг рекламы, кино и издательского бизнеса, где генеративные инструменты уже работают на больших объёмах. Если европейская схема приживётся, она может стать ориентиром и для других рынков. Если нет, компании продолжат жить сразу с несколькими несовместимыми системами меток.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.