CMF — молниеносный «решатель» без токенов: открытые веса и обучение у оракула

В статье рассказали про CMF — модель для быстрого выбора решений, которую называют аналогом Jev. Вместо генерации токенов она сразу определяет класс ответа, а при неуверенности может отказаться и передать сложный случай оракулу — сторонней модели, которая выступает учителем. После таких подсказок CMF дообучается, и повторные запросы проходят уже без оракула.

Авторы сравнили CMF с Jev и Laya, показали запуск через CLI и API, а также добавили собственные навыки. Отдельно — результаты переноса полного пайплайна на Apple Metal и Vulkan. На RTX PRO 4000 Blackwell медианная задержка в непрерывной серии составила 1,10–1,24 мс.

Модель распространяется с открытыми весами, так что её можно запускать локально и адаптировать под свои задачи.