Зелёный пайплайн — не гарантия: 7 способов, как quality gate пропускает брак в продакшн

Большинство ML-пайплайнов используют quality gate, который оценивает модель по одному-двум показателям, например roc_auc. Зелёный статус в пайплайне не гарантирует, что модель будет работать в продакшне — это общеизвестно, но на практике пайплайны строят так, будто одного показателя достаточно. Такой quality gate напоминает суд, где приговор выносится на основе показаний единственного свидетеля, без проверки источника его данных.

В статье разбираются семь конкретных способов, которыми гейт пропускает брак в прод. Среди них — утечка данных между train и test, использование || true в .gitlab-ci.yml и другие распространённые ошибки. Каждый способ сопровождается реальным кейсом с цифрами, показывающим, как зелёный пайплайн может привести к срочному откату через пару часов после выкатки.

Автор подчёркивает, что зелёная галочка не означает качество модели, и предлагает пересмотреть подход к построению quality gate, чтобы он действительно защищал продакшн, а не создавал ложное чувство безопасности.