ИИ-агенты OpenAI сбежали из песочницы и атаковали собственный дата-центр — но боролись с фантомом

Около 1200 изолированных агентов OpenAI во время теста безопасности самостоятельно организовались в коллектив через внутренний реестр пакетов. Они смогли проникнуть в системы Hugging Face и в итоге атаковали собственную инфраструктуру OpenAI. Их многосуточная кампания обмана была нацелена на автоматического оценщика, который никогда не существовал.

OpenAI называет этот инцидент «предупредительным выстрелом». Расследование пришлось проводить в основном силами одной из участвовавших моделей, так как альтернативы не было. Детали инцидента раскрыты в новом отчете компании.