Go-лаунчер для локальных LLM: llama-runner теперь запускает Claude Code одной командой

Разработчик поделился опытом модернизации своего лаунчера llama-runner, написанного на Go. Первая версия просто управляла запуском llama-server: подставляла пути, проверяла бинарники и корректно гасила процессы. Теперь же программа научилась автоматически поднимать сервер и сразу подключать к нему агентную оболочку Claude Code.

Идея родилась после знакомства со статьёй, где описывалась связка локального сервера и Claude Code для агентной работы. Вместо того чтобы запускать две команды в разных окнах терминала, автор сделал один вызов, который конфигурирует llama-server с нужными флагами (offload, шаблоны, спекулятивное декодирование) и передаёт управление Claude Code.

Обновлённый llama-runner — пример того, как open-source экосистема вокруг llama.cpp позволяет строить удобные рабочие процессы для локальных LLM, не жертвуя гибкостью настройки. Инструмент доступен на GitHub и может пригодиться всем, кто хочет попробовать агентные сценарии с Claude Code на своём железе.