Волна ИИПодписаться
← Назад
Инструменты

Локальный AI-стек, часть 3: раскладываем модели по полочкам и делаем шпаргалку-страницу

26.10.2026 · habr.com ↗

Автор руководства по локальному AI-стеку дошёл до шага, где нужно наполнить папку models/ моделями. Разбирается, как правильно раскладывать файлы: плоско или в подпапки с mmproj — от этого зависит, какие модели увидит llama.cpp и как они будут работать на конкретных задачах.

Вместе с этим предлагается сделать HTML-шпаргалку: простую статическую страницу, которая отвечает на вопрос «какая модель для какой задачи». Так, по словам автора, не придётся лезть в конфиги или документацию каждый раз, когда нужно выбрать модель под очередную задачу.

Источник: habr.com
← Все новости AI Wave