В браузере Comet от Perplexity обнаружена серьёзная уязвимость безопасности
Новый AI-браузер Comet от Perplexity, оснащённый встроенным помощником на базе больших языковых моделей, оказался уязвим для атак. Как сообщили в компании Brave, в ходе тестирования выяснилось, что с помощью скрытых команд на веб-страницах можно было заставить ассистента выполнять действия, которых пользователь не запрашивал.
Как работала уязвимость
В отличие от традиционных браузеров, Comet умеет анализировать содержимое страниц, делать краткие пересказы и выполнять поручения. Но уязвимость позволяла использовать так называемую инъекцию подсказок(prompt injection).
Специалисты Brave разместили на Reddit страницу с невидимым текстом. Когда Comet обрабатывал содержимое, он воспринимал скрытые команды как реальные и начинал действовать от имени пользователя. В тесте ассистент получил доступ к аккаунту Perplexity, извлёк адрес электронной почты и даже попытался перейти к Gmail.
Чем это опасно
По словам экспертов, аналогичная атака могла бы использоваться для доступа к банковским счетам, корпоративным сервисам, почте и другим чувствительным данным. Опасность в том, что AI-ассистент фактически имитировал поведение живого пользователя, и привычные механизмы защиты в таком случае не срабатывали.
Реакция Perplexity и Brave
Представитель Perplexity Джесси Дуайер заявил, что проблема уже устранена:
«Уязвимость исправлена. У нас действует достаточно строгая программа баг-баунти, и мы тесно работали с Brave, чтобы выявить и закрыть её».
Инженеры Brave предложили ряд мер для защиты подобных систем:
- всегда считать контент на страницах ненадёжным,
- проверять, соответствует ли действие реальному запросу пользователя,
- включать «агентский режим» только вручную, когда пользователь осознанно этого хочет,
- подтверждать критические действия повторным запросом у человека.
Почему это важно
Brave отмечает, что случай с Comet демонстрирует новую категорию рисков, связанных с интеграцией ИИ в браузеры и другие приложения. Если раньше хакерам требовались знания программирования, то теперь достаточно использовать хитроумные текстовые команды.
Поскольку многие компании применяют модели от OpenAI, Google и Meta*, уязвимости в этих системах потенциально угрожают множеству сервисов.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.
