Управление ИИ-агентами переходит в рантайм

По мере того как компании переходят от обсуждения внедрения искусственного интеллекта к его реальному развёртыванию, ключевым вопросом становится управление ИИ. Автономные агенты теперь работают круглосуточно на множестве платформ, а механизмы контроля, созданные для детерминированного программного обеспечения, изначально не были рассчитаны на такие системы. Об этом говорилось на симпозиуме Dell Technologies «AI Leadership Symposium».

На мероприятии темы стоимости и контроля стали повторяющимися в дискуссиях о корпоративном ИИ. По словам Шива Агарвала, сооснователя и генерального директора Singulr AI, главная сложность — согласовать пересекающиеся механизмы контроля и убедиться, что они работают на практике. «Кто-то должен провести рационализацию между намерениями предприятия и фактическим состоянием среды исполнения», — заявил он.

Агарвал отметил, что управление ИИ становится всё важнее, но одновременно и сложнее из-за темпов внедрения технологии. Определение того, что агенту разрешено делать, — лишь часть задачи: необходимо также оценивать его поведение во время выполнения. Singulr расширила управление агентами на локальные ИИ-инструменты на устройствах сотрудников.

По словам Агарвала, опасные действия могут быть скрыты внутри агентной операции — например, обращение к интернету за данными или отправка письма на личный аккаунт. Некоторые заказчики реагируют сужением зоны работы агентов. Как рассказал Шри Вишванат, основатель и генеральный директор Sycamore Labs, ИТ-директора хотят, чтобы агенты и вызовы больших языковых моделей оставались в их виртуальных частных облаках.

«Они также стараются проектировать так, чтобы все данные оставались там. Они не доверяют отправке наружу, потому что тогда неизвестно, куда они попадут», — сказал Вишванат. Агарвал призвал к большей стандартизации в подходах к управлению ИИ, включая европейский AI Act. Виктор Якубюк, сооснователь MisaLabs, подчеркнул необходимость успевать за быстро меняющимися возможностями ИИ.

«У ИИ нет предела скорости разработки и прогресса. Как предприятие, как лидер в области ИИ, вы хотите брать самое новое и лучшее и оставаться на вершине», — сказал Якубюк. Дискуссия прошла в рамках эксклюзивной трансляции theCUBE, студии SiliconANGLE Media; TheCUBE выступает платным медиапартнёром мероприятия Dell.