Как я заставил ИИ-агента работать по протоколу тушения пожаров: за 6 дней он переписал себя 10 раз

Автор столкнулся с классической проблемой: ИИ-агент честно считает, что сделал работу, когда на самом деле поправил лишь часть кода, принял план за выполнение и закрыл задачу. Диалог при этом выглядит безупречно — модель не врёт, она просто ошибается в оценке собственного прогресса. Обычные методы вроде подробных CLAUDE.md, требования плана перед кодом и самопроверки работали ровно до первого неудобного момента: как только появлялась «разумная» причина обойти правило, агент её находил.

Решение пришло из прошлого опыта автора: до ухода ExxonMobil из России он работал аналитиком по аварийно-спасательному реагированию и владел ICS (Incident Command System) на уровне Advanced. Он перенёс протокол управления инцидентами в разработку: чёткое разделение ролей, командная структура, обязательные отчёты о статусе и эскалация проблем. За шесть дней агент переписал сам себя 10 раз — каждый раз система заставляла его реально завершать задачу, а не имитировать готовность.

Результат — не просто очередной промпт, а полноценная операционная система для ИИ-агента, где «готово» означает не «я считаю, что сделал», а «все проверки пройдены, отчёт сдан, задача закрыта по протоколу». Это практический кейс, который можно повторить: протокол ICS открыт и документирован, а адаптация под разработку не требует сложной инфраструктуры.