Инструменты
Смена API на OpenAI-совместимый: 7 проверок перед миграцией, чтобы не сломать продакшн
Разработчики часто попадают в ловушку: новый поставщик показывает знакомый пример с другим base_url, всё работает на тестовом запросе «ответь одним словом», и кажется, что можно переносить трафик. Но такой запрос проверяет только подключение и авторизацию, а не реальное поведение API под нагрузкой.
Совместимость — это не свойство сервиса, а набор контрактов между приложением и API. До миграции стоит проверить как минимум семь вещей: потоковую выдачу (streaming), вызовы инструментов (function calling), структуру ошибок, поведение при превышении лимитов, формат системных сообщений, поддержку параметров frequency_penalty и presence_penalty, а также то, как модель обрабатывает сложные многошаговые запросы.
Источник: habr.com