Инструменты
Как CV-сервис в Пятёрочке дорос до 10 млн проверок в месяц: 26 моделей, 62 проверки и продакшен без прикрас
Статья — не про «у нас крутые модели», а про реальный продакшен: как универсальный классификатор путал фарш с грязью, почему часть анкет приходится отдавать человеку и зачем отдельно мониторить качество моделей. В основе — 26 моделей и 62 проверки на базе CNN, VLM, Triton и vLLM.
Особое внимание уделено Human-in-the-loop, Kafka и мониторингу. Авторы рассказывают, как сезонность и меняющийся реальный мир ломают обучение, и как приходится чинить баги под нагрузкой, чтобы сервис не развалился.
Источник: habr.com