Super VL и Bolt
NVIDIA 15 октября выпустила Nemotron 3.5 Super VL — открытую мультимодальную модель на 120 млрд параметров — и Bolt 74B-A9B. Компания публикует веса, наборы данных и рецепты обучения Super VL. Модель уже доступна через Hugging Face, OpenRouter, ModelScope и NVIDIA NIM; Bolt 74B распространяется через Hugging Face и поддерживается llama.cpp, Ollama, LM Studio, Unsloth и vLLM.
Ключевая инженерная идея Bolt — нативное двухбитное квантование. Версия 74B-A9B помещается в 24 ГБ памяти, поэтому её можно запускать на совместимых RTX-ПК и компактных системах DGX Spark без обязательной отправки данных в облако. Ещё меньшую Bolt E4B объёмом около 4 ГБ NVIDIA обещает выпустить 23 октября.
Выбор оборудования и модели
Релиз сокращает разрыв между серверными мультимодальными моделями и локальными агентами: разработчик может выбрать крупную модель для сложного восприятия и более компактную — для приватной автоматизации на рабочей станции. Это важно для компаний, которым нужны управляемые локальные контуры, воспроизводимые веса и совместимость с привычными инструментами.
NVIDIA заявляет о пятикратном ускорении Super VL, увеличении числа обслуживаемых пользователей до восьми раз и снижении задержки до 85% в своих тестовых конфигурациях. Для разработчиков опубликованы веса, данные, рецепты обучения и варианты запуска.