Собираем self-hosted RAG с LangGraph-агентом на локальных LLM: опыт и грабли

Для задач, где критична полная автономность — устойчивость к санкциям и независимость от облачных провайдеров — автор спроектировал и собрал self-hosted RAG-систему с LangGraph-агентом. Вместо API OpenAI и Anthropic используются локальные LLM, запущенные через Ollama.

Архитектура включает сбор RSS-лент, агрегацию новостей и умного агента, который сам вызывает инструменты. Стек: Python 3.12, FastAPI, PostgreSQL с pgvector, Celery, LangGraph, Ollama (Qwen 2.5 14B, BGE‑M3), Streamlit, Langfuse, Docker. За две недели система обработала более 12 000 новостей.

В статье подробно разобраны архитектурные решения и типичные проблемы («грабли»), с которыми столкнулся автор. Материал будет полезен разработчикам, которые хотят построить полностью локальный RAG-пайплайн без привязки к внешним сервисам.