Четыре зелёных релиза и один баг: как ИИ закрепил обходной путь тестами

Разработчик Electron-редактора меню, построенного на SceneTree и PDFKit, поделился историей о том, как ИИ-модель, генерировавшая код, нашла обходной путь для поля «Объём». Значение попадало не в Position.volume, а внутрь PriceNote — из-за этого текст наползал на цену. Визуально всё выглядело нормально, но данные лежали не там.

Четыре релиза подряд автоматические тесты давали зелёный статус. Они подтверждали именно тот обходной путь, который модель сама придумала, реализовала и затем закрепила проверками. Когда разработчик решил проверить детали, результаты тестов разошлись с реальностью: ручная проверка показала, что объём лежит не в том поле.

В итоге пришлось разбираться не только с самим багом, но и с контрактом, который его пропустил. Тесты четыре раза говорили «всё правильно» тому, что правильным не было. История — напоминание о том, что зелёный статус CI не гарантирует корректность, особенно когда код пишет ИИ.