35 000 страниц, один reranker: как оживить RAG, когда обычные методы не работают

Когда корпоративный RAG-ассистент разросся до 35 000 страниц и 80 000 чанков, точность поиска резко упала: наверх лезли документы похожие по теме, но не отвечавшие на вопрос. Метрики показали, что нужный материал почти всегда есть в выдаче, но стоит слишком низко.

Команда перепробовала стандартные улучшения: изменила выгрузку Confluence, усложнила чанкирование, вынесла код в отдельные вектора, подключила более крупную embedding-модель и даже построила структурный граф. Ничего из этого не дало существенного прироста.

Прорыв произошёл после внедрения reranker — модели, которая переранжирует результаты первого этапа поиска. Именно он поднял релевантные документы наверх и решил проблему, которую не мог исправить ни один дополнительный retrieval-канал.