Ошибка была не в LLM: как routing и архитектура сводят на нет лучшие модели

Автор серии статей о внедрении LLM рассказывает о реальном факапе: на демо AI-бот работал идеально, но в продакшене, с реальными пользователями и данными, начались сбои. Ответы были уверенными, но часто неверными. Команда всерьёз обсуждала замену модели.

Разбор логов показал: LLM вообще не должна была отвечать в части диалогов — routing отправлял запрос в ветку answer, хотя API возвращал partial, а сценарий требовал handoff. Самые дорогие ошибки жили не в модели, а в routing, API, базе знаний, метриках и compliance-слое. Модель лишь красиво озвучивала системные проблемы.

Вывод автора: сильная LLM не компенсирует слабую архитектуру. Без нормального routing, владельца knowledge base и понятного handoff сравнение моделей становится дорогим отвлекающим манёвром. Ключевой вопрос: не «Почему LLM ответила неправильно?», а «Почему система поставила модель в ситуацию, где правильного ответа быть не могло?»