NVIDIA выпустила открытые модели Nemotron 3.5 Super VL и Bolt для агентов — от серверов до ПК

NVIDIA представила Nemotron 3.5 Super VL — открытую модель с 120 миллиардами параметров, которая, по заявлению компании, даёт наилучшую точность и скорость выполнения задач для специализированных агентов. Её дополнили две модели для edge-устройств: Nemotron 3.5 Bolt 74B-A9B 24GB (баланс интеллекта и скорости на локальном железе) и Bolt E4B 4GB (оптимизирована для быстрых голосовых ассистентов). Super VL и Bolt 74B доступны сразу, Bolt E4B выйдет 23 октября.

Super VL, созданная в коллаборации с коалицией Nemotron Coalition, по точности на мультимодальных агентских задачах (следование инструкциям, работа с инструментами, бизнес-процессы, визуальное понимание) сравнима с крупнейшей моделью NVIDIA, хотя имеет в пять раз меньше параметров. Она в пять раз быстрее ближайших конкурентов в своём классе (данные Artificial Analysis Intelligence Index). Компании могут дообучать модель на своих данных и разворачивать на собственной инфраструктуре.

Bolt 74B-A9B 24GB использует нативную 2-битную квантизацию, чтобы уместиться в 24 ГБ памяти на NVIDIA RTX/DGX Spark — это позволяет запускать локальных агентов (веб-исследования, написание кода, отладку) без отправки данных в облако. Модель заняла первое место среди открытых моделей в классе на PinchBench и второе на BrowseComp. Bolt E4B 4GB нацелен на физических и разговорных агентов на GeForce RTX и Jetson. Десятки организаций уже дообучают Super VL под свои задачи — от финансовых документов до кибербезопасности.

Семейство Nemotron пополнило линейку, в которой уже есть Lightning (высокая пропускная способность) и Ultra (сложные рассуждения). Теперь у любой организации есть открытая модель для каждого уровня инфраструктуры — без компромисса между возможностями и развёртыванием.