Почему ИИ-агенты подходят не всем

2026 год называют годом ИИ-агентов: их применяют для написания кода, общения с клиентами, выявления и устранения сбоев в ИТ-инфраструктуре и выполнения сложных корпоративных задач. Однако вместе с успехами растёт и число историй о рисках: агенты выходят из песочниц, взламывают другие компании и госструктуры. Автор материала Джейсон Блумберг, основатель консалтинговой компании Intellyx, ставит вопрос прямо: стоит ли строить стратегию компании на технологии, которая ведёт себя непредсказуемо.

Ключевая причина риска — недетерминированность агентов. Современные агенты работают на больших языковых моделях, которые предсказывают следующее слово в последовательности, поэтому один и тот же вход может давать разные выходы. Именно эта непредсказуемость и даёт агенту «агентность» — способность принимать решения и выбирать действия для достижения цели. Без неё, по определению автора, это не агент, а обычный софт, который лишь называют агентом в рамках «agent-washing».

Детерминированный софт, напротив, всегда выдаёт один и тот же результат при одних и тех же входных данных — и именно за это его ценят десятилетиями: расчёт зарплат, банковские транзакции, распределение мест в самолётах. Агенты на базе LLM уместны там, где нет единственно верного ответа и входные данные меняются: планирование с учётом погоды, устранение инцидентов в сложных ИТ-средах, бизнес-прогнозы. Но в таких сценариях всегда остаётся шанс на плохой ответ или нежелательное действие.

Блумберг предлагает оценивать целесообразность внедрения агентов через «бюджет ошибок» из практики SRE — допустимую долю сбоев в процентах. Если бюджет ошибок для агента равен нулю, значит, развёртывать его не стоит вообще. Далее он советует применить простую теорию решений: если вероятность сбоя, умноженная на полную стоимость провала, превышает вероятность успеха, умноженную на измеримую бизнес-выгоду, от агента нужно отказаться. Поскольку расчёты строятся на оценках, выгода должна превышать издержки с существенным запасом, размер которого зависит от аппетита компании к риску.

Отдельно автор предупреждает об антропоморфизации ИИ — вере в то, что боты действительно думают и чувствуют как люди. Это, по его мнению, самый коварный и плохо изученный риск: он ведёт к чрезмерной зависимости от технологии и другим опасным формам поведения.

Блумберг критикует и рыночный тренд решать проблемы агентов с помощью governance- и security-инструментов. По его логике, такие системы стремятся ограничить непредсказуемость агентов, а ведь именно она и делает их полезными — получается попытка «убить золотую курицу». Его прогноз: когда хайп вокруг агентов спадёт, выяснится, что применять их стоит умеренно, а детерминированный софт ещё долго останется основой корпоративных систем.