NVIDIA представила Nemotron 3.5 Bolt E4B: открытая малая модель для голосовых ассистентов, NPC и роботов на RTX

NVIDIA официально представила Nemotron 3.5 Bolt E4B — открытую малую языковую модель, созданную для локальных голосовых агентов, игровых NPC и роботизированных интерфейсов. Модель основана на Gemma 4 E4B от Google и дообучена только методами подкрепляющего обучения без supervised fine-tuning. Разработчики заявляют, что Bolt умещается в ~4 ГБ VRAM (Q4_K_M), оставляя место для моделей речи и зрения.

Bolt E4B имеет 8B полных параметров (4B эффективных) и контекст 64K токенов. Для развёртывания поддерживаются GeForce RTX, Jetson, RTX Spark и DGX Spark. Ключевые фичи: многошаговый вызов инструментов, флаг conversational_mode для коротких ответов, настраиваемое время на размышления с лимитом, чтобы не превышать задержку. В демо показан робот Reachy Mini на Jetson Orin Nano 8GB, где Cosmos 3 Edge отвечает за зрение, а Bolt — за речь и вызовы инструментов.

При тренировке NVIDIA полностью отказалась от SFT: по данным исследовательского отчёта, SFT улучшал вызов инструментов, но ухудшал качество диалога и краткость. Вместо этого использовали RLVR и RLHF через фреймворки NeMo-RL и NeMo-Gym. Каждый сэмпл обучали как в режиме размышлений, так и без него, сохраняя соотношение 2:1 в пользу режима без размышлений. Наборы данных и рецепт обучения открыты.

На бенчмарках Bolt E4B в режиме размышлений показал лучший результат в 15 из 21 теста, опередив Gemma 4 E4B и Qwen3.5-4B. Например, IHEval — 84,8 против 67,0 у Gemma (худший результат — Tau2-Bench 55,1 против 75,1 у Qwen). На RTX 5070 с драфтером DFlash модель выдаёт 272,6 токенов/с, что на 21% быстрее Gemma 4 E4B. В общем, это готовая основа для быстрых локальных ИИ-агентов.