9B vs 30B: почему маленькая LLM победила большую в задаче агента

Эксперимент показал, что 9B-модель обогнала 30B-модель в решении задачи агентом: большая модель потребовала 24 шага и выдала неверный ответ, тогда как меньшая справилась за 3. Автор утверждает, что ключевой фактор — не количество параметров, а то, как устроен промптинг, управление контекстом и логика агента.

В статье разбираются практические выводы для тех, кто использует локальные LLM-агенты: как выбор стратегии промптов, итеративное уточнение и правильная обработка обратной связи могут перевесить грубую вычислительную мощность.