OpenRouter: удобный fallback между провайдерами LLM может подложить свинью — как не попасться

OpenRouter рекламирует себя как единый API-эндпоинт, который сам выбирает самого дешёвого и надёжного провайдера для каждой модели. Звучит удобно, но Mohamed Moustafa разобрал, чем это может обернуться на практике.

Проблема в том, что у разных провайдеров разное серверное ПО, оптимизации и настройки. Один и тот же эндпоинт OpenRouter может возвращать ответы, которые отличаются по поведению: у некоторых провайдеров нет vision даже для vision-моделей, а параметр reasoning effort обрабатывается по-своему.

К счастью, OpenRouter позволяет управлять маршрутизацией через опцию provider.only — можно зафиксировать конкретного провайдера. А метод /endpoints выдаёт список доступных провайдеров для конкретного ID модели. Полезный хак для тех, кто хочет предсказуемости.