Ассистент вместо агента: как спроектировать предсказуемую LLM-систему без перерасхода токенов

Автор, core-разработчик open-source AutoML-фреймворка OutBoxML, продолжает цикл статей о переносе инженерных принципов из расчётной механики в ML-архитектуру. На этот раз — о том, как сделать LLM-систему, которая работает стабильно, не сжигает бюджет на токены и выдаёт предсказуемые результаты.

В качестве реального кейса рассматривается ассистент, который принимает входящее техническое задание в свободном формате, сверяет его с корпусом документации и ставит комментарии о наличии или отсутствии запрашиваемых пунктов. Разбор ведётся по пяти ключевым пунктам, которые автор раскрывает в полной публикации.