Исследование Deloitte показало, что ИИ-агенты уже входят в рабочие процессы быстрее, чем компании успевают выстроить для них систему управления. Только 21% организаций сообщили о зрелом контроле над такими системами, хотя 74% ждут как минимум умеренного использования ИИ-агентов к 2027 году.
Deloitte относит к зрелой системе управления тот вариант, где компании заранее определили, какие решения агент может принимать сам, а какие требуют одобрения человека. Там должен быть настроен мониторинг поведения и аномалий, а также сохранение журналов всех этапов работы агента.
В отдельном опросе 501 руководителя и старшего менеджера американских компаний 61% респондентов заявили, что ожидают высокой автономности большинства ИИ-агентов, при которой люди будут в основном следить за их работой. При этом примерно 1 из 5 организаций готова перестраивать бизнес-процессы под автономные системы.
Среди главных препятствий Deloitte называет плохо документированные процессы, разрозненные данные и устоявшиеся методы работы. Компания предупреждает, что агенты без мониторинга и централизованного контроля могут ошибаться, раскрывать конфиденциальные сведения, конфликтовать друг с другом и создавать риски для кибербезопасности.
Ещё в июне мы писали, что в компаниях ИИ-агенты ускорили код и перегрузили ревью, то есть скорость их внедрения уже опережала привычные процессы контроля.