Локальный ИИ-агент для кода на Mac: эксперимент со скоростью на Qwen

Автор захотел собрать кодового агента, который работает целиком на ноутбуке без облака: локальная модель, локальный сервер, агент в терминале. Стек включал MTPLX, pi и модель Qwen3.8-27B.

Главная проблема оказалась в скорости. Агент постоянно перечитывает длинный контекст и много «думает», и на локальном Mac каждая задача превращается в минуты ожидания. Статья рассказывает, что именно тормозит, а что не влияет на производительность.