GPU-планировщики для Kubernetes: сравниваем Volcano, Kueue и KAI Scheduler для AI-нагрузок

Команда Nova AI столкнулась с типичной для AI/ML-инфраструктуры проблемой: Kubernetes не умеет эффективно управлять GPU, когда в кластере одновременно работают инференс, обучение, эксперименты, ноутбуки дата-сайентистов и batch-задачи. Простое указание nvidia.com/gpu в манифестах перестаёт работать при росте нагрузки — нужны специализированные планировщики.

Инженер Дима Матушкин начал исследовать три кандидата: Volcano, Kueue и KAI Scheduler. Каждый из них решает задачи, с которыми не справляется стандартный планировщик K8s: запуск связанных подов как единого целого, управление очередями и приоритетами, учёт сетевой топологии для распределённых задач и деление GPU так, чтобы дорогие ресурсы не простаивали.

В первой части статьи автор описывает предпосылки и критерии выбора. Дальнейшие шаги — детальное сравнение планировщиков и рекомендации — будут в продолжении.