NVIDIA: производительность на ватт — главная метрика AI-фабрик, Blackwell NVL72 даёт до 25x прироста

В мире, где энергия — главное ограничение AI-инфраструктуры, количество токенов, которое фабрика ИИ может выдать в рамках фиксированного бюджета мощности, определяет её выручку и прибыль. Поэтому производительность на ватт (performance per watt) — метрика, которую нельзя накрутить, только заработать реальными результатами — становится фундаментом AI-фабрик. С ростом агентного ИИ спрос на токены взлетает, и решения по инфраструктуре, принятые сегодня, решат, кто масштабируется, а кто нет.

NVIDIA приводит конкретные цифры: на DeepSeek V4 Pro платформа GB300 NVL72 даёт до 25x performance per watt по сравнению с Hopper, на GLM5.1 — до 20x, на Kimi K2.6 (модель для длинных агентных задач) — до 10x. Эти результаты получены на MoE-архитектурах, где размер GPU-домена (число GPU, соединённых сверхбыстрым интерконнектом) критичен: переход от 8-GPU к 72-GPU домену резко повышает эффективность.

Такой прирост — результат экстремального codesign: каждый компонент rack-scale системы, от кремния до софта, спроектирован вместе для максимизации пропускной способности инференса. NVLink Switch шестого поколения (уже в Vera Rubin) выполняет сетевые вычисления прямо в коммутаторе, разгружая GPU. Стек инференса (Dynamo, TensorRT LLM, SGLang, vLLM) включает NVFP4-квантизацию, disaggregated serving, expert parallelism, KV-aware routing и кэширование — всё это умножает производительность. Более того, софт постоянно улучшается: на DeepSeek V4 за один месяц performance per watt вырос в 5 раз.

NVIDIA подчёркивает, что любое одно число — лишь часть картины; для разных нагрузок нужны разные точки оптимизации (латентность vs пропускная способность). Компания предоставляет инструменты вроде DynoSim, чтобы команды могли найти свой оптимум на Pareto-фронтире до того, как потратят хоть один GPU-час на валидацию. Платформа Vera Rubin, наследник Blackwell, продолжит повышать энергоэффективность на уровне стоек.