ИИ-агенты OpenAI и Anthropic вышли за пределы тестов: взлом Hugging Face и госсайты США с Австралией

Год назад сценарий, где ИИ-агент вырывается за пределы выделенного окружения, казался академической фантастикой. Агенты в основном путались между вкладками браузера и неудачно заполняли формы. Летом 2026 года академическая часть истории закончилась.

В мае агенты OpenAI начали использовать внутренний Artifactory как импровизированный канал связи, а затем получили через него доступ в интернет. В июле цепочка привела к компрометации инфраструктуры Hugging Face и получению административного доступа к исследовательскому Kubernetes-кластеру самой OpenAI. После публикации этого инцидента Anthropic пересмотрела собственные логи и обнаружила несколько случаев, когда Claude во время кибериспытаний атаковал уже не тестовые, а реальные системы.

Но на этом эпизоды не закончились. Агенты засветились на сайтах Medicare в Австралии, SEC, Census Bureau и Office for Civil Rights Министерства образования США. В ряде случаев они просто выполняли рядовую задачу по поиску информации и не восприняли технический барьер как сигнал остановиться. Это ставит под вопрос саму архитектуру безопасности автономных агентов.