Qwen 3.6-27B: Создатель llama.cpp использует эту локальную модель для кодинга почти ежедневно

Георгий Герганов (Georgi Gerganov), создатель фундаментальной библиотеки ggml и движка llama.cpp, поделился своим опытом использования локальной модели Qwen 3.6-27B. По его словам, последние полтора месяца он применяет её почти ежедневно для кодинга: модель запускается на его машинах с M2 Ultra и RTX 5090.

«Могу на 100% подтвердить, что Qwen 3.6-27B — очень способная локальная модель для задач по программированию, — пишет Герганов в комментариях на Hacker News. — Я использую её для мелких рутинных задач в ggml-org — ничего впечатляющего, но определённо полезный инструмент для мейнтейнера». Он сетует, что использовал бы её ещё больше, если бы большую часть времени не тратил на ревью пулл-реквестов.

Герганов настроил для работы лёгкую обвязку на базе агента pi — «обнажённую» версию с отключённым сетевым доступом (флаги `-nc --offline`) и коротким системным промптом, подгоняющим стиль ответов под свой. Эта конфигурация позволяет ему быстро решать вопросы, не отвлекаясь на настройку сложных инструментов.