ИИ-агент Meta* Muse предложил журналисту тему на основе его личных сообщений
Журналист Джейсон Эйтен тестировал ИИ-агента Meta* Muse на Mac mini и iPhone. Агент предложил ему тему статьи на основе сведений из личной переписки, доступ к которой журналист ему не предоставлял.
Эйтен рассказал об этом после установки Muse на Mac mini, который использует для проверки новых ИИ-агентов.
Сначала Эйтен поручил Muse простые задачи. Агент сообщил, что может помогать с поиском идей для статей, но одна из предложенных тем содержала информацию, которой, по словам журналиста, у Muse быть не должно. В сообщении об испытании утверждается, что агент изучил тысячи личных сообщений без разрешения. Как он получил к ним доступ, в описании не уточняется.
Meta* представила Muse ранее в этом месяце. Компания описывала его как персонального ИИ-агента, при создании которого уделила внимание безопасности и конфиденциальности. Случай Эйтена ставит это заявление под вопрос, но из описания нельзя установить, какие именно данные агент прочитал и на каком из двух устройств это произошло.
В сентябре мы сообщали, что Meta* выпустила приложение Muse для Mac. Тогда компания указывала, что агенту доступны сообщения, но пользователь сам решает, к каким данным предоставить доступ; Эйтен утверждает, что доступа к личной переписке не давал.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.
