Nvidia выпустила открытую модель Nemotron 3.5 Super VL

Nvidia выпустила Nemotron 3.5 Super VL — открытую мультимодальную модель на 120 млрд параметров, предназначенную для корпоративных агентов, работающих в фоновом режиме. Вместе с ней выходят две компактные модели серии Bolt для локальных ПК и периферийных устройств. Модель обрабатывает текст, изображения, документы и видео.

Super VL построена на архитектуре Mixture-of-Experts: при 120 млрд параметров на каждый токен активны лишь 12 млрд. Разработка велась совместно с Nemotron Coalition, в которую входят Mistral AI, Thinking Machines Lab, Perplexity и Black Forest Labs. Модель дистиллирована из Nemotron 3 Ultra — крупнейшей reasoning-модели Nvidia.

По данным Nvidia, на агентных задачах Super VL показывает точность уровня Ultra примерно при пятой части параметров, а в тестах Hermes и LangChain даже превосходит её. На бенчмарках SWE-bench и Terminal-Bench модель обходит предшественницу Nemotron 3 Super. На одном GPU она выдаёт до пятикратной пропускной способности по сравнению с аналогичными открытыми моделями, ссылаясь на лидерборд Artificial Analysis.

Для ускорения инференса Nvidia применяет 4-битный формат NVFP4, спекулятивное декодирование с предварительной генерацией токенов и кэширование повторяющихся частей запроса. На 16 GPU B200 это позволяет обслуживать в восемь раз больше одновременных пользователей, а время до первого токена сокращается на 85%. В задачах зрения модель набирает 80,8% на бенчмарке CharXiv против 63% у Nemotron 3 Nano Omni.

Bolt 74B-A9B 24GB — гибридная MoE-версия с 9 активными миллиардами параметров, сжатая 2-битной квантизацией для работы в 24 ГБ памяти. Она оптимизирована под чипы RTX Spark и DGX Spark и поддерживает llama.cpp, Ollama, LM Studio и vLLM. Более слабая Bolt E4B 4GB для голосовых ассистентов выйдет позже в этом месяце.

Nvidia заявляет, что десятки организаций уже дообучают Super VL. Scale AI адаптировала модель для обработки вендорских кредитов в Skydance, ожидая снижения затрат в 40 раз и времени отклика в пять раз. Ramp использует её для распознавания чеков, EY — для due diligence при сделках, Hebbia — для анализа кредитных соглашений.

В кибербезопасности AI21 дообучила модель для компании Alice, повысив точность анализа угроз на 40%, Dream ищет уязвимости, CrowdStrike строит защитных агентов. Salesforce планирует автоматизировать госпроцессы, R1 — аудит медицинских счетов. Nvidia публикует веса в базовой, постобученной и 4-битной версиях вместе с датасетами и рецептами обучения, но максимальную отдачу модель даёт только на оборудовании Nvidia.