AI-голосом атаковали Citadel и Two Sigma в новой волне vishing

Bloomberg сообщил о голосовом фишинге, в котором атакующие использовали AI для имитации человеческих голосов и попыток обойти системы защиты. Под удар попали крупные хедж-фонды, включая Citadel, Two Sigma и Point72, а также несколько компаний из сферы частного капитала.

Two Sigma заявила Bloomberg, что успела заметить атаку до того, как злоумышленники получили доступ к внутренним системам. Citadel отказалась от комментария Gizmodo, а Point72 не сразу ответила на запрос.

Как AI используют в голосовом фишинге

Специалисты по кибербезопасности предупреждали, что дешёвые и простые в использовании AI-инструменты, умеющие копировать человеческую речь и создавать дипфейки, могут увеличить число атак и их тяжесть. В 2024 году в Гонконге сотрудница одной международной компании перевела мошенникам более $25,5 млн после звонка с AI-сгенерированными подделками голосов коллег, включая финансового директора.

AI-мошенничество уже использовали и для политических целей. Прошлым летом неизвестные с помощью AI воссоздали голос госсекретаря Марко Рубио и отправляли голосовые сообщения иностранным дипломатам и федеральным чиновникам.

В июньском отчёте OpenAI также говорилось, что группа мошенников, по признакам связанная с китайским правительством, использовала ChatGPT для создания провокационного контента в соцсетях. По словам компании, такие публикации были нацелены на то, чтобы подогреть недовольство американцев центрами обработки данных, которые остаются важной частью AI-инфраструктуры США.

Голосовые модели и ограничения

OpenAI продвигает свою новую голосовую модель GPT-Live-1, которая должна улавливать тонкие нюансы человеческой речи и делать общение с AI менее механическим. При этом, по замыслу разработчиков, модель не умеет копировать голоса реальных людей.

Компания уже сталкивалась с критикой из-за ранней голосовой модели, которая, по мнению многих слушателей, слишком напоминала Скарлетт Йоханссон.

Источник: gizmodo.com