NVIDIA представила Vera Rubin и DSX: ИИ-фабрики теперь считают токены на мегаватт

NVIDIA на саммите AI Infra Summit в Санта-Кларе представила новую метрику для ИИ-инфраструктуры — токены на мегаватт. По словам вице-президента Яна Бака, peak performance уходит в прошлое: важнее, сколько полезных токенов агентного ИИ выдает каждый мегаватт энергии. Компания показала обновлённую платформу Vera Rubin, ПО Dynamo и NeMo, а также сетевые решения NVLink, Spectrum-X и BlueField.

Среди ключевых анонсов: Amazon Annapurna Labs совместно с NVIDIA разрабатывает кастомную память NVHBM; d-Matrix интегрирует NVLink Fusion для связки CPU Vera с XPU Raptor, обеспечивая сверхнизкую задержку инференса в масштабе; Pinterest использует Blackwell и Dynamo для визуального поиска с conversational AI. Система DSX MaxLPS, по заявлению NVIDIA, даёт до 1,4x больше токенов на мегаватт за счёт оптимизации энергопотребления на уровне всей фабрики.

Отдельный акцент — программа гибкой нагрузки для электросетей. Emerald AI совместно с NVIDIA и компанией Silicon Valley Power продемонстрировала автоматическое снижение нагрузки по сигналу сети без ущерба для приоритетных задач. Система DSX Flex получает команды от сети и временно приостанавливает низкоприоритетные ИИ-задачи, а затем возобновляет их. Это позволяет ИИ-фабрикам работать как гибкий ресурс для энергосистемы и высвобождать дополнительную мощность для роста.

Облачный провайдер Lambda впервые подтвердил работу DSX MaxLPS на серверах Blackwell: прирост производительности на ватт составил 23%. По словам NVIDIA, вместе с партнёрами компания строит инфраструктуру, которая проектируется «от кремния до электросети» — кодовый подход, где каждый компонент заточен на максимальную отдачу энергии в полезные токены.