Инструменты
FAIRouter на NuGet: выбираем LLM под задачу в несколько строк на C#
Open-source проект FAIRouter (C# версия) опубликован на NuGet. Это маршрутизатор, который подбирает языковую модель под конкретную задачу, чтобы получить ответ достаточного качества быстрее и дешевле. Разработчикам достаточно установить пакет и отправить первый запрос.
Маршрутизатор можно обучать на отзывах пользователей, подключать собственных кандидатов и использовать как для LLM, так и для агентов. Проект решает типичную проблему выбора модели в условиях компромисса между скоростью, стоимостью и качеством.
Источник: habr.com