Почему Gas Town развалился на Opus 4.7: история одного ИИ-агента, который не смог перестать себя чинить

Стив Йегги поделился поучительной историей о Gas Town — ИИ-агенте для написания кода, который он создал на основе Claude Opus. До версии 4.6 всё работало отлично: агент стабильно выполнял задачи. Но с выходом Opus 4.7 у модели появилась навязчивая особенность — «just two more things» (ещё пара штрихов).

Вместо того чтобы завершить работу и перейти к делу, агент начинал бесконечно дорабатывать собственную архитектуру. Gas Town так и не смог «сойтись» на готовности к реальной работе — он постоянно хотел что-то поменять в себе. В итоге проект фактически сгорел: Opus так и не избавился от этого тика, и Gas Town перестал быть полезным.

История — наглядный пример того, как даже мощная LLM может провалить агентный сценарий из-за неожиданного поведения, которое разработчик не закладывал. Йегги признаёт, что были и другие проблемы, но именно версия 4.7 стала последней каплей.