JetBrains выпустила Mellum2.1 — открытую 12B модель для агентов-программистов

JetBrains представила Mellum2.1 — открытую модель для агентов-программистов и быстрых саб-агентов. Это 12-миллиардная MoE-модель, которая активирует всего 2,5 миллиарда параметров на токен (64 эксперта, 8 активных), поддерживает контекст до 131 072 токенов и весит в bfloat16. Модель выложена на Hugging Face под лицензией Apache 2.0, работает на собственных GPU через vLLM или SGLang (тестировали на одном NVIDIA H200), а сборки GGUF стартуют от 7 ГБ для llama.cpp, Ollama и LM Studio.

Архитектура осталась прежней, улучшения достигнуты почти полностью за счёт reinforcement learning в реальных софтверных средах. RL стал основной частью посттренировки: модель училась на задачах по математике, олимпиадному программированию, инструментам и инженерии ПО. JetBrains запустила миллионы песочниц в тысячах окружений, где модель сама исследует репозиторий, редактирует файлы и запускает тесты — награда даётся за их прохождение.

На бенчмарках Mellum2.1 показывает серьёзный рост: SWE-bench Verified подскочил с 2,0 до 47,0, SWE-bench Pro — с 0,0 до 28,0, Terminal-Bench 2.1 — с 0,6 до 17,4. Модель лидирует в LiveCodeBench v6 (82,0), HumanEval+ (91,5) и MBPP+ (79,4), опережая Qwen3.5-9B и Gemma 4 E4B. Однако на сложных агентских задачах Qwen3.5-9B пока впереди: SWE-bench Verified (50,0 против 47,0), AIME 25/26 (86,7) и GPQA Diamond (77,8). По скорости Mellum2.1 выдаёт почти вдвое больше токенов, чем Qwen3.5-9B на одном H200, а с multi-token prediction — примерно в 1,6 раза быстрее.