Как мы делали RAG для документации Jmix и почему пришлось перестраивать поиск

Команда Jmix, разрабатывающая open-source платформу для Java-приложений, создала ИИ-ассистента на базе ChatGPT 4 для ответов на вопросы сообщества. Ассистент должен был разгрузить разработчика-дежурного, отвечающего на базовые вопросы.

Однако система дала сбой: на вопрос «какое значение repeatCount заставит таймер сработать пять раз» ассистент уверенно выдал готовый XML, хотя такого атрибута в Jmix не существует. Это заставило команду пересмотреть подход к поиску и индексации документации.

Ранее ассистент работал как система индексатора и поисковика для нейросети, но точность была недостаточной, особенно при вызове через MCP внешними агентами. После инцидента разработчики перестроили поиск, чтобы исключить галлюцинации и повысить достоверность ответов.