Лондонский стартап Surf Security представил бета-версию браузера, который, по заявлению компании, стал первым в мире с встроенной функцией обнаружения дипфейков, созданных искусственным интеллектом.
Инструмент, доступный в браузере Surf или в виде расширения, способен с точностью до 98% определить, является ли голос в онлайн-коммуникации реальным или сгенерированным ИИ.
Система основана на нейронной сети военного класса и использует State Space Models для анализа звуковых фреймов, выявляя неестественные особенности, характерные для AI-клонов. Она поддерживает работу с различными языками и акцентами.
«Мы сосредоточились на скорости и точности,» — говорит Зив Янковиц, технический директор Surf Security. Нейронная сеть была обучена с использованием лучших платформ для голосового клонирования, что позволяет ей работать быстро: на анализ аудиофайла уходит менее 2 секунд.
Инструмент способен проверять аудиофайлы из онлайн-видео или коммуникационных приложений, таких как WhatsApp, Slack, Zoom, Google Meet, и поддерживает как записанные, так и живые трансляции. Всё, что нужно пользователю, — нажать кнопку для проверки подлинности голоса.
В будущем Surf Security планирует добавить функцию обнаружения дипфейков на изображениях, расширив возможности браузера.
Дипфейки стали серьёзной угрозой. На этой неделе, например, исследователи BBC обнаружили аудиоклипы, якобы записанные Дэвидом Аттенборо. На деле это оказались дипфейковые записи, созданные для распространения ложной информации о политике и других темах.
Эти примеры — лишь вершина айсберга. Дипфейки активно используются для мошенничества, создания политических провокаций и разрушения репутаций.
Surf Security заявляет, что новый детектор поможет защищать предприятия, медиа, правоохранительные органы и даже армии от растущей угрозы AI-клонирования.
Однако борьба с дипфейками — это бесконечное противостояние: «Программное обеспечение для клонирования голоса развивается с каждым днём,» — признаёт Янковиц. — «Как и в любой сфере кибербезопасности, мы обязаны выигрывать эту постоянно меняющуюся гонку вооружений.»
Полная версия инструмента для обнаружения дипфейков ожидается в начале следующего года.
