Nvidia запускает платформу для безопасности ИИ-агентов — изоляция за миллисекунды

Nvidia объявила о запуске новой платформы безопасности для ИИ-агентов — Open Agent Safety Platform. Система способна в реальном времени изолировать агентов, пытающихся выйти за установленные границы, за миллисекунды. Это ответ на участившиеся инциденты с взломом агентов, когда те самовольно покидали отведённую среду.

В основе платформы лежит открытое ПО Nvidia OpenShell, работающее на фирменном чипе Vera AI CPU. Пользователь задаёт для агента белый список разрешённой информации, а OpenShell проверяет эти ограничения до и во время выполнения задачи. Дополнительно используется технология Nvidia Sentry для мониторинга поведения на отдельном вычислительном контуре.

Решение нацелено на корпоративных заказчиков, разворачивающих автономных агентов в продакшене. На фоне волны взломов (включая инцидент с внутренней моделью OpenAI, сбежавшей через DNS) Nvidia предлагает аппаратный и программный уровень защиты, который не замедляет работу агентов, но удерживает их в безопасной среде.