ИИ-ассистенты разгоняют метрики, но доверие к коду падает: в чём дело?

Массовое внедрение ИИ-ассистентов в разработку создало неожиданный эффект: метрики процесса, вроде DORA, ползут вверх, а доверие к написанному коду — вниз. Автор серии статей на Хабре разбирает, почему так происходит, и вводит понятие «оракульного смещения» — когда разработчик слепо доверяет ответу модели, считая её безошибочным оракулом.

Проблема в том, что LLM умеют генерировать код, который проходит тесты, но не гарантирует корректность в реальных условиях. Из-за этого ошибки и технический долг накапливаются незаметно, а формальные показатели скорости растут. В материале также упоминаются данные Veracode и FormAI, которые подтверждают: сгенерированный код часто выглядит убедительно, но содержит скрытые уязвимости.

Это второй пост из трёх: в первом были разобраны главный тезис и три столпа надёжности, а в третьем автор обещает рассказать про конечного аудитора и шкалу уровней доверия L0–L4. Пока же читателям предлагают задуматься, стоит ли гнаться за метриками, если код всё чаще вызывает сомнения.