Nvidia расширила семейство Nemotron для агентов

Nvidia представила три новые модели семейства Nemotron для агентных систем: открытую Nemotron 3.5 Super VL на 120 млрд параметров, а также компактные Bolt 74B-A9B 24GB и Bolt E4B 4GB. По заявлению компании, они покрывают весь спектр развёртывания ИИ-агентов — от крупных корпоративных серверов до периферийных устройств и локального оборудования.

Super VL создана совместно с Nemotron Coalition — объединением разработчиков моделей и ИИ-лабораторий, продвигающих открытые модели передового уровня. Модель рассчитана на мультимодальные агентные задачи: следование инструкциям, использование инструментов, многошаговые бизнес-процессы и визуальное понимание. Nvidia утверждает, что по возможностям она сопоставима с крупнейшими её reasoning-моделями при размере в пять раз меньше, а новая архитектура обеспечивает почти пятикратно более быструю генерацию по сравнению с аналогами в классе.

Веса Super VL открыты: организации могут дообучать модель на собственных данных и разворачивать на своей инфраструктуре, в том числе за межсетевым экраном. Это позволяет сохранять контроль над данными, приватность и безопасность. Для обучения использовались открытые данные и методы — около 26 трлн токенов на этапах предобучения и продолженного предобучения, 3,8 млн примеров постобучения и обучение с подкреплением в 100 открытых средах.

Bolt 74B-A9B 24GB — уменьшенная версия на базе Super VL для локального выполнения агентных задач. Это гибридная mixture-of-experts модель, активирующая 9 млрд из 74 млрд параметров за раз, с двухбитной квантизацией, что позволяет уместить её в 24 ГБ памяти. Такой объём даёт возможность запускать её на рабочей станции или ПК с GPU, делегируя повседневные задачи вроде написания и отладки кода без отправки данных в облако.

Позже в этом месяце Nvidia выпустит ещё меньшую модель Bolt E4B 4GB для периферийных устройств на базе GeForce RTX, Jetson и RTX/GTX Spark. Она предназначена для физического ИИ и разговорных агентов в носимой электронике, бытовой технике, точках обслуживания, автомобильных панелях и других встраиваемых интерфейсах. Компания отмечает, что модель может использоваться для интерактивных персонажей, диалоговых интерфейсов и умных пользовательских оболочек с локализацией и персонализацией.

Дополнительно Nvidia выкладывает на Hugging Face открытые датасеты по агентному использованию инструментов, финансам, следованию инструкциям, длинному контексту, безопасности, справедливости и визуально-языковому пониманию. Анонс продолжает линию компании на продвижение открытых моделей и локального инференса — сегмента, где конкуренция с закрытыми фронтир-моделями идёт за счёт контроля над данными и стоимости развёртывания.