Исследование: Итеративная генерация кода LLM ведёт к нарастанию уязвимостей — безопасный MVP превращается в кошмар

Исследователи проанализировали процесс итеративной генерации кода с помощью LLM — от начального MVP до финальной версии. Выяснилось, что на первых шагах модель действительно выдаёт аккуратный, безопасный код, но после нескольких раундов доработок качество безопасности резко падает. Код становится «кошмаром» с точки зрения уязвимостей.

Работа была представлена на IEEE-ISTAS 2025 и показывает, что доверять LLM без контроля при многократных правках рискованно. Авторы рекомендуют внедрять автоматические проверки безопасности на каждом этапе и не полагаться на финальный аудит.

Хотя конкретные цифры и модели в кратком изложении не указаны, исследование поднимает важный вопрос: какой ценой даётся скорость разработки с ИИ-помощниками, и не пора ли увольнять «мясных» программистов или, наоборот, срочно их нанимать для исправления ошибок.