WhatsApp начала бета-запуск Scam Alert для предупреждения о мошеннических сообщениях

WhatsApp начала ограниченный бета-запуск Scam Alert, нового опционального режима, который предупреждает о возможных мошеннических сообщениях. Для проверки используется модель машинного обучения на устройстве, а содержимое сообщений не покидает смартфон и не отправляется в WhatsApp, Meta* или куда-либо ещё без действия пользователя.

После включения Scam Alert загружает модель на устройство и проверяет входящие сообщения от контактов, которых нет в адресной книге, на совпадение с известными схемами обмана. Модель обучали на паттернах, которые заметили в мошеннических переписках из пользовательских жалоб, и она оценивает текст по структуре диалога и языковым признакам.

Если система считает сообщение подозрительным, в чате появляется предупреждение. Его видит только получатель, а не собеседник. Дальше пользователь сам выбирает, что делать: заблокировать отправителя, пожаловаться на него или продолжить разговор. Если срабатывание оказалось ложным, чат можно пометить как доверенный, после чего предупреждение исчезнет, а Scam Alert больше не будет отмечать эту переписку.

Как работает Scam Alert

Функция остаётся отключённой по умолчанию. В WhatsApp подчёркивают, что анализ выполняется локально и без серверной классификации; механизм задуман как дополнение к сквозному шифрованию, а не как обходной путь вокруг него.

Если пользователь решает, что собеседнику доверяет, он может дополнительно отправить в WhatsApp последние 5 полученных сообщений. Это делается только по его желанию и нужно, чтобы улучшать точность системы. Саму функцию в любой момент можно выключить и снова включить.

Проверка, журнал и защита от подмены

Перед отправкой любых данных система опирается на несколько проверок. WhatsApp пишет, что модель маленькая, работает только на устройстве и достаточно проста, чтобы её можно было публиковать для независимого анализа. Для измерения работы Scam Alert собираются только анонимные усреднённые счётчики предупреждений и действий пользователя, а не содержание переписки.

Компания также заявляет, что не может адресно выдать конкретную модель отдельному пользователю. Каждая версия, включая экспериментальные, публикуется в общедоступном журнале до развертывания, а на устройстве можно включить прозрачные журналы активности Scam Alert. В них видно, какие сообщения были отмечены, какое решение сработало и какая версия модели использовалась.

Для проверки системы WhatsApp подключила сообщество Bug Bounty и внешних исследователей безопасности. На этапе бета-тестирования им дали раннюю сборку приложения, чтобы подтвердить, что данные не уходят с устройства автоматически, а модель действительно предназначена только для выявления мошенничества.

Сейчас Scam Alert доступен только в ограниченной бете. В WhatsApp говорят, что будут дорабатывать функцию в этом режиме, а затем решат, как расширять её дальше.

* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.