IBM: агентный ИИ меняет корпоративное управление

IBM обращает внимание на то, что переход от генеративных моделей, отвечающих на вопросы, к агентным системам, способным принимать решения и действовать, меняет подход к управлению и контролю. По мере роста автономности ИИ-агентов компании сталкиваются с необходимостью сохранять подотчётность в условиях быстрых изменений. Об этом говорится в материале AI Business со ссылкой на позицию IBM.

Агентный ИИ отличается от традиционных чат-ботов тем, что может самостоятельно выполнять цепочки действий: обращаться к внешним сервисам, запускать процессы и влиять на бизнес-операции. Это создаёт разрыв между скоростью внедрения технологий и скоростью адаптации корпоративных регламентов. IBM указывает, что управление, контроль и доверие становятся центральными темами для организаций, внедряющих такие системы.

В качестве отправной точки IBM рекомендует сосредоточиться на областях, где генеративный ИИ улучшает взаимодействие человека с информацией. Такой подход позволяет накопить опыт и выстроить процессы контроля до того, как агенты получат более широкие полномочия. По сути, речь идёт о поэтапном расширении автономности с параллельной настройкой механизмов надзора.

Проблема подотчётности усложняется тем, что решения агента могут быть результатом цепочки шагов, а не одного ответа модели. Компаниям требуется прослеживаемость действий, понятные точки ответственности и инструменты аудита. Без этого доверие к агентным системам со стороны бизнеса и регуляторов будет ограничено.

IBM не приводит конкретных цифр или сроков, но подчёркивает общий тренд: управление ИИ перестаёт быть отдельной функцией и становится частью архитектуры корпоративных систем. Для рынка это означает рост спроса на решения по мониторингу, политикам и контролю доступа для ИИ-агентов.

Тема актуальна на фоне того, что всё больше вендоров переводят свои продукты от простых ассистентов к агентам, выполняющим задачи. Конкуренция смещается в сторону того, насколько прозрачно и безопасно такие агенты встраиваются в существующие бизнес-процессы.