Крупные американские банки ограничили доступ внешних ИИ-агентов к финансовым счетам клиентов. Об этом сообщили руководители Charles Schwab и JPMorgan Chase. Они объяснили запрет рисками для клиентов и самих компаний.
Глава Charles Schwab Рик Вурстер рассказал Bloomberg TV, что брокерская компания блокирует Muse, ИИ-бота Meta*, когда тот пытается переводить деньги. По его словам, клиенты не могут контролировать действия агента, а в случае ошибки возникнет вопрос об ответственности. Вурстер получает еженедельные отчёты о заблокированных агентах: пока их число не доходило до сотни, обычно речь идёт о нескольких десятках случаев.
Руководитель JPMorgan Chase Джейми Даймон сообщил инвесторам, что банк запрещает внешних ИИ-агентов из-за рисков. Представитель компании уточнил CNBC, что ограничение распространяется на всех внешних агентов, работающих с розничными клиентами. Даймон также предупредил о возможности появления тысяч неуправляемых агентов.
Schwab готовит ограниченный доступ к счетам через внешние языковые модели. Подключение будет проходить через серверы Model Context Protocol (MCP) с контролируемой аутентификацией: агенты смогут просматривать баланс и помогать с исследованиями, но не переводить деньги. Клиенты, которые уже торгуют через языковые модели и API, могут отправлять запросы только через API и MCP-серверы Schwab, где компания контролирует и проверяет взаимодействия. Внутренний помощник брокера Charley, представленный в прошлом месяце, на первом этапе будет заниматься административными и информационными задачами, без торговли. Вурстер считает, что ИИ может помогать изучать акции и настраивать торговые процессы, но принимать решения без одобрения человека ему рано.
Банки также опасаются, как используются пользовательские данные: Muse собирает подробную информацию о пользователях и людях, с которыми они взаимодействуют в сети. Ранее сообщалось о проблемах с приватностью бота, в том числе о случае, когда он выдал незнакомцу домашний адрес.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.