Google Cloud запускает инстансы A5X на базе NVIDIA Vera Rubin: доступны с июля для обучения, инференса и RL
Инстансы A5X на базе NVIDIA Vera Rubin NVL72, работающие через Google Cloud AI Hypercomputer, станут общедоступны в следующем месяце. Google планирует масштабировать инфраструктуру до 960 000 GPU Rubin в нескольких дата-центрах. Платформа ориентирована в первую очередь на ресурсоёмкие задачи: обучение больших моделей, инференс агентов и крупномасштабное reinforcement learning, требующее непрерывного цикла «генерация опыта — оценка — обновление модели».
Первым заказчиком A5X стала лондонская Ineffable Intelligence, основанная Дэвидом Сильвером — создателем AlphaGo. Компания использует платформу для построения «суперобучающихся» систем, которые непрерывно совершенствуются через собственный опыт. «Сочетание производительности Vera Rubin и высокой пропускной способности между CPU Vera и GPU Rubin позволяет нам масштабировать исследования в области RL», — отметил Сильвер.
Другой клиент — маркетинговая группа WPP — уже протестировала A5X для своих креативных агентов на базе моделей Nemotron и OpenShell. В тестах нагрузка, которая раньше занимала целый multi-node кластер, уместилась на одном A5X. WPP также оценивает безопасные песочницы OpenShell для работы с брендовыми активами.
Параллельно Google Cloud внедряет конфиденциальные вычисления NVIDIA (Confidential Computing) на bare-metal инстансах A4X Max (на базе GB300 NVL72) и делает их доступными на G4-инстансах с RTX PRO 6000 Blackwell для безопасного инференса и дообучения. Для энергоэффективности компании исследуют технологии DSX MaxLPS, чтобы оптимизировать производительность на ватт.