Liquid AI выпустила самую маленькую модель LFM2.5-230M: 213 токенов/с на смартфоне и 42 — на Raspberry Pi

Liquid AI представила LFM2.5-230M — самую компактную модель в линейке, построенную на архитектуре LFM2. Два чекпоинта (базовая и инструктивная версии) открыты на Hugging Face. Модель текстовой, без мультимодальности, с контекстом 32 768 токенов и словарём 65 536 токенов. Поддерживает 10 языков.

Главный козырь — производительность на устройствах: 213 токенов/с на Galaxy S25 Ultra и 42 токена/с на Raspberry Pi 5 при весе 293–375 МБ в 4-битном исполнении. На бенчмарках IFEval (71.71) и CaseReportBench (22.51) LFM2.5-230M обходит более крупные Qwen3.5-0.8B и Gemma 3 1B IT. Однако на общих знаниях (MMLU-Pro: 20.25) и сложных агентных задачах (τ²-Bench Telecom: 5.26) модель слаба.

Обучение велось на 19 трлн токенов в три этапа: SFT с дистилляцией от старшей LFM2.5-350M, затем DPO и мультидоменное reinforcement learning. Разработчики прямо предупреждают: модель не подходит для продвинутой математики, кода и креативного письма. Её ниша — массовая выгрузка данных (например, парсинг 100 000 клинических отчётов) и локальная агентная автоматизация на роботах и хабах умного дома.

В качестве демонстрации LFM2.5-230M уже работает на гуманоидном роботе Unitree G1 на бортовом NVIDIA Jetson Orin, выступая слоем выбора навыков. Поддержка инференса с первого дня включена в llama.cpp, MLX, vLLM, SGLang и ONNX.