Нейросети и ИИ

Anthropic начнёт помечать текст Claude невидимым водяным знаком

Anthropic начнёт помечать текст Claude невидимым водяным знаком

Anthropic рассказала, как будет помечать текст, сгенерированный Claude, чтобы его было проще распознавать. Компания собирается использовать невидимый водяной знак, который не меняет вид ответа для обычного пользователя и не добавляет скрытых символов.

По словам Anthropic, система не должна влиять на качество текста, его читаемость или творческую составляющую. Для компании это требование европейских правил: водяной знак на старте появится на текстах Claude по всему миру, потому что пока нет надёжного способа ограничить его одним регионом.

Механика построена на подходе Google DeepMind SynthID-Text. Вместо того чтобы дописывать в ответ дополнительные знаки или править готовый текст, Claude меняет источник случайности при выборе некоторых токенов. В результате отдельные слова выглядят обычными, но длинная последовательность оставляет статистический след, который можно проверить при наличии ключа.

Как работает водяной знак Claude

Anthropic утверждает, что такой след не виден читателю, не требует дополнительных токенов и почти не влияет на скорость генерации. В компании также говорят, что внутренние тесты не показали ухудшения качества ответов.

Есть и исключения. Если модель отвечает на вопрос, где корректен только один вариант, или пишет код, где замена слова может сломать результат, водяной знак не применяется. При этом в комментариях и других местах, где у текста есть свобода выбора, маркировка всё же может появляться.

Anthropic добавляет, что для проверки водяных знаков готовит API. Он сможет оценивать, насколько вероятно, что текст писал или редактировал Claude, но не докажет авторство с абсолютной точностью. Сильная правка или полностью переписанный вариант могут убрать след, а небольшие изменения, наоборот, иногда оставят его заметным.

Для изображений другой подход: для PNG, JPG и SVG Claude будет прикреплять криптографически подписанные метаданные C2PA, а не встраивать водяной знак прямо в файл. Новые модели Claude тоже будут выпускаться уже с такой маркировкой, а модели, запущенные до 2 августа 2026 года, Anthropic будет дорабатывать в ближайшие месяцы.

Источник: Bleepingcomputer
Елизавета Добровольская
Автор itzine.ru с 2021 года. Пишет о смартфонах, гаджетах, железе, искусственном интеллекте и космосе — в общем, обо всём, что есть в мире технологий. От новостей о складных флагманах и процессорах до репортажей о культуре и рынке электромобилей. Следит за индустрией внимательно, но без фанатизма.

Оставить комментарий