Nvidia урезала расход токенов у кодовых агентов почти вдвое — без потери качества

Исследователи Nvidia представили SoL-Pi — систему, которая оптимизирует «обвязку» (harness) кодовых агентов, то есть управляющий слой между моделью и её окружением. За счёт этого расход токенов на выполнение задач падает почти вдвое — до 49% — при том, что качество работы агента практически не страдает.

Чтобы добиться такого результата, команда перебрала 152 различных подхода и провела более 3000 прогонов. Правда, на других бенчмарках эффект оказался скромнее: основной выигрыш заметен именно на кодовых сценариях, где агенты активно взаимодействуют с инструментами и окружением.

Это не новая модель, а скорее способ сделать существующие агенты дешевле и эффективнее — что особенно актуально, когда счета за токены растут вместе с популярностью агентного ИИ.