Как распознать изображения, созданные нейросетью

Порой лучший детектор ИИ-изображений — это ваши собственные глаза. Начнем с плохих новостей: определить изображения, созданные ИИ, стало действительно сложно. Признаки, которые раньше были явными — искаженные руки и перепутанный текст — теперь встречаются все реже, поскольку ИИ-модели стремительно совершенствуются. В настоящее время уже не так просто отличить изображения, созданные с помощью популярных инструментов, таких как Midjourney, Stable Diffusion, DALL-E и Gemini. Более того, ИИ-изображения всё чаще вводят людей в заблуждение, что создает серьезные проблемы для распространения дезинформации. Хорошая новость заключается в том, что распознать изображения, созданные ИИ, по-прежнему возможно, хотя это требует больше усилий, чем раньше.

Детекторы ИИ-изображений — будьте осторожны

Эти инструменты используют компьютерное зрение для анализа пиксельных паттернов и определения вероятности того, что изображение было создано ИИ. Это означает, что детекторы ИИ не являются полностью надежными, но могут помочь обычному человеку понять, стоит ли изображению уделить более пристальное внимание, особенно если на первый взгляд оно не вызывает подозрений.

«К сожалению, для человеческого глаза — и об этом есть исследования — шанс определить подлинность изображения составляет около 50 на 50», — говорит Анатолий Квитницкий, генеральный директор платформы AI or Not, предназначенной для обнаружения изображений, созданных ИИ. «Но для детекторов ИИ, благодаря пиксельным паттернам, вероятность определения остается высокой, даже несмотря на улучшения моделей». Квитницкий утверждает, что AI or Not достигает 98-процентной точности в среднем. Другие детекторы ИИ, которые показывают высокий уровень успеха, включают Hive Moderation, SDXL Detector на платформе Hugging Face и Illuminarty. Мы протестировали десять изображений, созданных ИИ, на всех этих детекторах, чтобы оценить их работу.

AI or Not

AI or Not дает простой ответ «да» или «нет», в отличие от других детекторов ИИ-изображений, но корректно определил, что изображение было создано ИИ. С бесплатным планом можно загрузить до 10 изображений в месяц. Мы попробовали 10 изображений и получили 80-процентный успех.

Hive Moderation

Мы протестировали бесплатный демо-инструмент Hive Moderation на более чем 10 различных изображениях и получили 90-процентный общий успех, что означало высокую вероятность того, что изображения были созданы ИИ. Однако инструмент не смог распознать ИИ-характеристики искусственного изображения армии бурундуков, взбирающихся на скалу.

SDXL Detector

SDXL Detector на Hugging Face требует несколько секунд на загрузку, и на первой попытке вы можете получить ошибку, но он полностью бесплатен. Этот инструмент также предоставляет процентную вероятность. Он показал, что 70 процентов ИИ-изображений имели высокую вероятность быть сгенерированными ИИ.

Illuminarty

У Illuminarty есть бесплатный план, который предоставляет базовое обнаружение ИИ-изображений. Из 10 загруженных нами ИИ-изображений только 50 процентов были классифицированы как имеющие очень низкую вероятность быть созданными ИИ. К ужасу биологов, изучающих грызунов, он дал infamous rat dick изображению низкую вероятность того, что оно было создано ИИ.

Как видно, детекторы ИИ в большинстве случаев достаточно точны, но не безошибочны, и их не следует использовать как единственный способ аутентификации изображения. Иногда они могут обнаружить обманчивые ИИ-изображения, даже если они выглядят реалистично, а иногда ошибаются с изображениями, которые явно были созданы ИИ. Именно поэтому лучше всего использовать комбинацию методов.

Другие советы и хитрости

Старый добрый реверсивный поиск изображений

Еще один способ обнаружить ИИ-изображения — это простой реверсивный поиск изображений, что рекомендует Бамшад Мобашер, профессор компьютерных наук и директор Центра веб-интеллекта в колледже вычислительной техники и цифровых медиа Университета ДеПол в Чикаго. Загружая изображение в Google Images или другой инструмент для реверсивного поиска изображений, вы можете проследить происхождение изображения. Если фото изображает, казалось бы, реальное событие, «вы можете определить, что это фейк или что на самом деле это событие не происходило», — сказал Мобашер.

Инструмент Google «О изображении»

В Google Поиске также есть функция «О изображении», которая предоставляет контекстную информацию, например, когда изображение было впервые проиндексировано и где оно еще появлялось в сети. Найти её можно, нажав на иконку с тремя точками в правом верхнем углу изображения.

Все сводится к ИИ-грамотности

Ни один из вышеописанных методов не будет полезен, если сначала не задуматься над тем, является ли то, что вы видите, созданным ИИ. Подобно тому, как медиа-грамотность стала популярной концепцией в период распространения дезинформации во время выборов 2016 года, ИИ-грамотность — это первая линия защиты для определения подлинности. Исследователи ИИ Дури Лонг и Брайан Магерко определяют ИИ-грамотность как «набор компетенций, позволяющих людям критически оценивать технологии ИИ; эффективно взаимодействовать и сотрудничать с ИИ; и использовать ИИ как инструмент в интернете, дома и на рабочем месте».

Знание того, как работает генеративный ИИ и на что обращать внимание, является ключевым. «Это может звучать банально, но уделить время для проверки источника и происхождения контента, который вы видите в социальных сетях, — хорошее начало», — говорит Луччиони.

Начните с вопросов о том, кто опубликовал изображение и в каком контексте оно появилось. Кто опубликовал изображение? Что говорит сопроводительный текст (если таковой имеется)? Публиковали ли это изображение другие люди или СМИ? Как изображение или сопровождающий его текст влияют на ваши чувства? Если кажется, что оно создано для того, чтобы вызвать у вас гнев или соблазнить, подумайте, почему.

Как некоторые организации борются с проблемой дипфейков и дезинформации, созданных ИИ

Как мы уже видели, методы, которые могут помочь людям отличить изображения, созданные ИИ, от реальных, всё ещё несовершенны и ограничены. Что ещё хуже, распространение нелегальных или вредоносных ИИ-изображений наносит двойной удар, поскольку такие посты распространяют ложные сведения, что затем порождает недоверие к онлайн-медиа. Но с появлением генеративного ИИ возникли и несколько инициатив, направленных на повышение доверия и прозрачности.

Коалиция по обеспечению подлинности контента (C2PA) была основана Adobe и Microsoft и включает такие технологические компании, как OpenAI и Google, а также медиа-компании, такие как Reuters и BBC. C2PA предоставляет кликабельные «учетные данные контента» для определения происхождения изображений и того, были ли они созданы ИИ. Однако ответственность за прикрепление этих данных лежит на создателях изображений.

С другой стороны, лаборатория Starling Lab в Стэнфордском университете активно работает над аутентификацией реальных изображений. Starling Lab проверяет «чувствительные цифровые записи, такие как документирование нарушений прав человека, военных преступлений и свидетельств о геноциде», и надежно хранит проверенные цифровые изображения в децентрализованных сетях, чтобы их нельзя было подделать. Работа лаборатории не ориентирована на конечных пользователей, но её проекты являются хорошим ресурсом для тех, кто хочет проверить подлинность изображений, например, войны в Украине или передачи власти от Дональда Трампа к Джо Байдену.

Эксперты часто говорят о ИИ-изображениях в контексте обмана и дезинформации, но ИИ-изображения не всегда предназначены для обмана. Иногда это просто шутки или мемы, вырванные из контекста, или это небрежная реклама. А может, это просто форма творческого самовыражения с использованием новой интригующей технологии. Но как бы там ни было, ИИ-изображения стали неотъемлемой частью нашей жизни. И теперь вам нужно научиться их распознавать.