Граница между кодом и моделью — не деталь, а архитектурный объект

Автор разбирает типичную проблему LLM-агентов для запросов к данным: модель сама решает и тип запроса, и форму результата, и нужность пояснений. На десятке тестов всё работает, но при изменении формулировок поведение становится непредсказуемым — одинаковые по смыслу вопросы дают разные форматы ответа, а пояснения к отклонениям то появляются, то исчезают.

Обычная реакция — добавить ещё одно правило в промпт. Это помогает пару раз, но затем инструкции начинают противоречить друг другу, и промпт превращается в набор заплаток. Нестабильность не исчезает, а лишь перемещается в порядок применения противоречивых правил.

Корень проблемы в том, что граница между кодом и моделью никем явно не проектировалась — она сложилась сама. Автор предлагает рассматривать её как отдельный архитектурный объект: если не принять это решение осознанно, оно всё равно будет принято по умолчанию, и чаще всего в ущерб устойчивости системы.