FAIRouter: открытая библиотека, которая сама выбирает лучшую LLM для вашей задачи

На Habr опубликовали библиотеку FAIRouter — она умеет выбирать LLM-исполнителя для конкретной задачи, а после получения ответа проверять качество работы. Проект выложен в открытый доступ, так что любой может попробовать его на своих данных.

Идея простая: моделей становится всё больше, они отличаются по качеству, скорости и стоимости. FAIRouter — обучаемый роутер, который анализирует запрос и направляет его к наиболее подходящей LLM, чтобы получить лучший результат без переплаты. Как именно обучается роутер и как принимается решение о приёмке ответа — авторы обещают рассказать в следующих постах.