Маршрутизатор LLM под микроскопом: вектор задачи, судья и обучение на отзывах в FAIRouter

На Хабре появился разбор внутреннего устройства FAIRouter — библиотеки, которая автоматически направляет запрос к наиболее подходящей языковой модели. В статье объясняют, как задача превращается в вектор, по какому принципу выбирается исполнитель и зачем в системе нужен компонент-«судья», оценивающий качество ответов.

Ключевая фишка маршрутизатора — обучение на отзывах: FAIRouter учитывает реакцию пользователей и со временем улучшает свои решения. Сейчас библиотека работает только с LLM, однако авторы уже анонсировали расширение класса исполнителей — следующими станут инструменты и целые агенты.

Ранее команда уже описывала FAIRouter, но математическая подоплёка оставалась за кадром. Новая публикация закрывает этот пробел и объясняет, как строится вектор задачи и как устроен контур обратной связи.