Тесты и бенчмарки
YADRO проверил «серые» NVIDIA H100 PCIe: не уступают ли они оригинальным NVL?
На рынке появились PCIe-версии NVIDIA H100, собранные из чипов, извлечённых из HGX-модулей. Команда YADRO решила проверить, не потеряли ли такие карты в производительности по сравнению с оригинальными H100 NVL.
Тестирование провели на сервере YADRO G4208P G3 с одинаковыми драйверами, CUDA и ОС. Использовали два бенчмарка: прикладной vLLM benchmark для типовых LLM-конфигураций и NCCL all_reduce_perf для оценки GPU-интерконнекта.
Результаты показали, что PCIe-карты NVIDIA H100 Special демонстрируют производительность, сопоставимую с оригинальными H100 NVL. Авторы делятся методикой и рекомендациями по валидации ускорителей перед включением в проектный контур.
Источник: habr.com