Тихий долг ИИ-кода: почему он опасен не падениями, а мелкими правками

Анатолий, бизнес-архитектор и владелец продукта Goodt Insight (ИТ-холдинг LANSOFT), три месяца наблюдал за бэклогом. Туда всё чаще попадали мелкие доработки вокруг кода, написанного ИИ. Не аварии и не падения прода — обычные правки, которые по отдельности выглядят безобидно.

Проблема в том, что такой код формально хорош: аккуратная структура, осмысленные имена, тесты, местами удачные абстракции. PR не развернёшь на ревью фразой «что-то не нравится» — он выглядит как результат нормальной инженерной работы. Но на дистанции в месяцы, когда к коду возвращаются, вылезает скрытый долг: команда не до конца понимает, что именно и почему сделал ИИ.

Автор подчёркивает: эффекты ИИ видны не на демо, а в долгой эксплуатации. Этот «долг понимания» не ловят ни тесты, ни ревью, пока не начинаешь править код руками.