Ollama против llama.cpp: запускаем Gemma 4 и считаем цену удобства

Ollama давно стала любимым способом быстрого запуска LLM, но в комментариях к каждой инструкции находится кто-то, кто называет её неправильным выбором и советует llama.cpp. Автор решил проверить эти утверждения на практике, развернув Gemma 4 на сервере обоими инструментами.

Суть сравнения — понять, что теряет пользователь, когда выбирает простой и привычный путь через Ollama, и что даёт более низкоуровневый подход с llama.cpp. Речь не только об удобстве, но и о производительности, контроле и накладных расходах.

Материал будет полезен всем, кто выбирает рантайм для локального инференса: в нём разобраны практические нюансы запуска модели без лишней теории и без рекламы какого-либо из инструментов.