Собираем локальный AI-стек: запускаем llama.cpp и получаем чат на localhost

Продолжаем собирать локальный AI-стек. На этот раз берём llama.cpp: компилируем проект, скачиваем небольшую модель для проверки и разбираемся с ключевыми параметрами запуска — mmap, ограничениями памяти и mmproj.

После сборки и настройки у вас будет рабочий чат с родным веб-интерфейсом llama.cpp по адресу http://127.0.0.1:8080. Это базовый шаг перед подключением более удобных обёрток вроде Open WebUI.