Голосовой помощник на MacBook без интернета: как дообучили Gemma 26B на 24 ГБ памяти

Разработчик рассказал, как создал голосового помощника для macOS, который не просто отвечает на вопросы, а выполняет действия на компьютере. Ключевое условие — вся языковая модель работает локально, без облачных сервисов и подписок.

В процессе он дообучал модель Gemma 26B на MacBook с 24 ГБ оперативной памяти. В статье подробно описана архитектура системы, методы дообучения и типичные ошибки, на которые наткнулся автор.