RAG без облаков: строим локальную систему на Go, PostgreSQL и Ollama
RAG (Retrieval-Augmented Generation) стал стандартным подходом для работы LLM с собственными документами без дорогостоящего дообучения. Однако на практике возникает множество вопросов: как правильно нарезать документы, где хранить эмбеддинги, как организовать быстрый семантический поиск и какую модель использовать на каждом этапе.
Автор статьи предлагает полностью локальное решение на связке Go, PostgreSQL и Ollama. Весь путь расписан детально: от индексации документов и чанкинга до генерации ответа LLM на основе найденного контекста. Никаких облачных API и сторонних сервисов — всё работает на вашем железе.
Такой подход даёт полный контроль над данными и позволяет использовать open-source модели, не завися от внешних провайдеров. Статья будет полезна всем, кто хочет внедрить RAG в свои проекты без привязки к облакам.