Инструменты
Приватный RAG на pgvector: собираем поиск и генерацию внутри своего VPS
Автор показывает, как собрать RAG-стек, в котором документы, векторный поиск и генерация ответов не покидают ваш VPS. Это вариант для тех, кому важны контроль над данными и независимость от облачных API.
В статье разобраны ключевые компоненты: генерация эмбеддингов, настройка pgvector, подключение локальной LLM, а также проверка прав доступа и оценка качества поиска. Отдельно сравниваются типы индексов — HNSW и IVFFlat — с их компромиссами по скорости и точности.
Не обошли и эксплуатационные вопросы: ведение журналов и резервное восстановление. Материал пригодится всем, кто хочет построить автономную RAG-систему без сторонних зависимостей.
Источник: habr.com