Как я шесть лет пилил Telegram-бота с LLM и RAG: от токенайзера до рабочей системы

Автор поделился историей разработки бота «Ио» для Telegram. Бот умеет отвечать на сообщения, распознавать изображения и голосовые сообщения, учитывать историю переписки и информацию о пользователе. В основе — LLM, RAG и векторные базы.

Шесть лет ушло на то, чтобы научить бота помнить пользователей и работать с контекстом. Разработчик экспериментировал с разными подходами, разбирался с RAG и в итоге получил систему, которая действительно работает. Статья будет полезна тем, кто хочет построить своего Telegram-бота с ИИ.