NVIDIA и AWS создают NVHBM: новая память даёт +30% пропускной способности и освобождает 25% площади чипа

NVIDIA расширила платформу NVLink Fusion анонсом NVHBM (NVIDIA High-Bandwidth Memory) — полузаказной памяти, в которой контроллер перенесён с кристалла XPU в 3D-стек HBM. Такое решение даёт прирост пропускной способности на 30% и снижение энергопотребления на 15% по сравнению со стандартным HBM4E. Кроме того, освобождается до 25% площади на XPU-кристалле, которую можно задействовать под вычислительные блоки.

NVHBM будет предлагаться ведущими производителями памяти как стандартизированное решение, что упрощает интеграцию и квалификацию для заказчиков NVLink Fusion. Первой компанией, которая начнёт работать с новой памятью, станет Annapurna Labs (подразделение AWS). Она будет использовать NVHBM в связке с NVLink scale-up для своих будущих чипов Trainium4, что позволит Amazon-чипам и GPU NVIDIA работать в единой архитектуре на уровне стоек.

NVLink Fusion — это открытая платформа, позволяющая создавать полузаказную AI-инфраструктуру: партнёры могут подключать свои XPU и CPU к NVIDIA-стекам через NVLink чиплеты, NVLink-C2C, коммутаторы и системы MGX. Такой подход ускоряет выход на рынок и снижает риски для гиперскейлеров и AI-компаний, которые хотят сосредоточиться на разработке собственных ускорителей, используя проверенную сетевую и системную платформу от NVIDIA.