Fireworks AI выпустила Ember-1: та же Kimi K3, но на 40% меньше токенов

Fireworks AI представила Ember-1 — пост-тренированную версию открытой модели Kimi K3. Главная фишка: модель научилась писать более короткие цепочки рассуждений, не теряя точности. По заявлению компании, Ember-1 выдаёт качество Kimi K3, но тратит примерно на 40% меньше токенов. Это не то же самое, что просто снижать «усилие рассуждения» на инференсе — модель учится эффективнее мыслить, а не просто обрезать выводы.

Проблема исходной модели в том, что reasoning-модели вроде Kimi K3 тратят более 90% генерируемых токенов на внутренние рассуждения. В многошаговых агентных сценариях это приводит к квадратичному росту контекста: каждый последующий шаг снова «прокручивает» и оплачивает длинные цепочки предыдущих. Fireworks объясняет, что заказчики хотели скилов Kimi K3 в кодинге, но дешевле. Простое снижение уровня «рассудительности» (reasoning effort) вело к потере качества. Тогда команда обучила модель рассуждать компактнее, сохраняя полезные саморефлексии (например, перепроверку гипотез) и отсекая лишние итерации.

Тренировочный набор включал математику, код, следование инструкциям, диалоги, поиск, работу с инструментами и софтверную инженерию. Команда провела более 50 экспериментов и свыше 200 оценок. Обучение шло на Fireworks Serverless Training на собственных данных (не клиентских). Веса, код обучения и точные алгоритмы не опубликованы — развернуть модель локально нельзя, только через serverless API Fireworks.

На бенчмарках Ember-1 показал сравнимые с Kimi K3 на максимальном усилии результаты, но с существенной экономией. Например, на Terminal Bench 2.1 — 82,0% (против 80,9% у K3 Max) и на 51,9% дешевле. На DeepSWE 1.1 — 75,2% (против 66,4%) и на 23,7% дешевле. На SWE-bench Verified — 92,2% (против 93,2%), но экономия 15,5%. В производственных A/B-тестах у двух клиентов количество токенов на задачу упало на 35%, а качество практически не изменилось (0,753 против 0,751). Стоимость вывода — те же $3/$0,3/$15 за миллион токенов (ввод/кэш/вывод), но за счёт меньшего числа токенов итоговый чек снижается.