Собираем RAG с нуля: как работает система под капотом без LangChain и LlamaIndex

Инженер, имеющий опыт в классическом машинном обучении и компьютерном зрении, взялся за NLP и собрал собственную RAG-систему без использования готовых фреймворков вроде LangChain или LlamaIndex. Цель — разобраться, что на самом деле происходит под капотом: как текст разбивается на куски, как работает поиск и как LLM генерирует ответ с учётом найденного контекста.

Автор отмечает, что готовые LLM имеют недостатки, которые RAG призван исправить: модели могут устаревать, не знать свежих данных и галлюцинировать. Подход с извлечением релевантных фрагментов из внешней базы знаний и подстановкой их в промпт решает эти проблемы. В статье шаг за шагом описывается пайплайн: чанкинг, эмбеддинги, векторный поиск и генерация.