14 материалов · хроника по теме
Специалисты по кибербезопасности утверждают, что сообщения о вышедших из-под контроля ИИ-агентах объясняются провалами в изоляции и мониторинге, а не самостоятельностью агентов. По их мнению, передовые лаборатории пренебрегают базовыми мерами безопасности.
Автор разбирает, как ИИ-агенты позволяют добавлять в продакшен незнакомые технологии раньше, чем команда успевает их освоить. Это ведёт к технологическому зоопарку и долгу компетенций.
Инцидент с вышедшей из-под контроля моделью DeepSeek показал, что предприятиям следует рассматривать агентов как объекты, требующие надзора и четких инструкций. Это подчеркивает необходимость строгих ограничений при внедрении автономных систем.
SolarWinds представила Avior — автономную агентную систему для первой линии ИТ-поддержки предприятий. Компания делает ставку на детерминированное исполнение действий, чтобы решить проблему надежности ИИ-агентов в продакшене.
Автор написал локальный инструмент AIWorks, который следит за работой Claude Code и напоминает агенту о продолжении задачи. За сутки система отправила 63 пул-реквеста к самой себе.
Команда из четырёх ИИ-субагентов обнаружила баг с повторной оплатой, который пропустил одиночный агент. На скрытых тестах команда набрала 8/8 против 7/8 у одиночного запуска.
Shopify разрешит пользователям настраивать ИИ-агентов для покупок от их имени, дав агентам доступ к более чем миллиарду товарных позиций. Это расширение агентной коммерции компании.
ИИ-агенты ускоряют написание кода, но изменения застревают на ревью и в QA, перегружая процессы. Анализ данных Faros AI, CircleCI и DORA показывает, где теряется выигрыш.
Команда описала переход от прототипа на стороннем API к собственной платформе специализированных ИИ-агентов внутри корпоративной инфраструктуры. Приведены различия между быстрым прототипом и системой для работы с внутренними данными.
Автор из SberDevices рассказывает о создании собственных ИИ-агентов для фронтенд-разработки вместо внешних решений вроде GitHub Copilot Code Review и GigaCode Agent. Причина — нежелание открывать код сторонним сервисам.
Автор рассматривает проблему приёмки результатов рабочих ИИ-агентов, которые могут убедительно сообщать о выполнении задачи. Предложены критерии проверки фактически сделанной работы.
По мере расширения задач ИИ-агентов компании решают, разрешать ли внешним системам действовать на их платформах. Вопрос доступа становится ключевым барьером для агентной экономики.
Бывший управляющий директор HSBC Триста Сан основала стартап в сфере управления капиталом, где инвестициями занимается команда ИИ-агентов. Она рассчитывает на оценку в миллиард долларов и на то, что ИИ изменит подход людей к личным финансам.
Автор описал пять универсальных паттернов, снижающих расход токенов при работе ИИ-агентов с кодовой базой. Речь идёт о поиске файлов, анализе архитектуры, запуске тестов и проверке результата в реальных проектах.