Инструменты
4,6 млн токенов в день уходило на фоновые задачи AI-агента — вот как это исправить
Когда плотно работаешь с AI-агентом, кажется, что токены уходят на полезные действия: написание кода, анализ сайтов, подготовку статей. Но если присмотреться, основная дыра — не в сложных задачах, а в служебной движухе вокруг них. Cron-задачи, диагностика, статусные запросы, списки инструментов «на всякий случай» — всё это тихо съедает бюджет ещё до того, как агент приступил к реальной работе.
Автор статьи провёл аудит и обнаружил, что на фоновые задачи уходит огромная доля токенов. Он подкрутил настройки, убрал лишние проверки и сократил объём передаваемых данных. В результате удалось срезать примерно 4,6 млн токенов в день только на фоновых процессах. Подробности — в статье на Habr.
Источник: habr.com