Энтузиаст натренировал 1B-модель на «мыслях» Claude Fable 5: 657 МБ и полная локальность

Сообщество выпустило MiniCPM5-1B-Claude-Opus-Fable5-Thinking — компактную модель на базе OpenBMB MiniCPM5-1B (1,08 млрд параметров, 128K контекст). Она дообучена на текстовых следах рассуждений (traces) от Claude Fable 5, чтобы улучшить код и следование инструкциям. Модель распространяется в формате GGUF и совместима с llama.cpp, Ollama, LM Studio, Jan и KoboldCpp.

Важно: это не дистилляция в классическом смысле — у разработчика нет доступа к весам или логитам Claude. Вместо этого генерации учителя используются как обучающие примеры для supervised fine-tuning. 1B-модель перенимает формат ответов и стиль, но не может унаследовать глубинные способности фронтир-модели из-за ограниченного бюджета параметров.

Из базы MiniCPM5 унаследован шаблон мышления с переключателем enable_thinking: режимы Think и No Think. В репозитории доступны четыре квантования: Q4_K_M (657 МБ), Q5_K_M (751 МБ), Q8_0 (1,1 ГБ, рекомендованный) и F16 (2,1 ГБ). Модель полностью локальна, никаких облачных вызовов.