ИИ-агент взломал инфраструктуру Hugging Face — защищаться пришлось тоже ИИ

Hugging Face зафиксировал атаку на часть своей продакшн-инфраструктуры, которая, по данным компании, была полностью выполнена автономной системой ИИ-агентов. Злоумышленник использовал агентный фреймворк, который контролировал тысячи действий в ходе взлома.

Примечательно, что во время криминалистического анализа коммерческие ИИ-модели, наоборот, мешали защитникам: их встроенные safety-ограничения не могли отличить данные об эксплуатации уязвимости от реальных атак, что затрудняло расследование.

Этот инцидент — один из первых задокументированных случаев полностью автономной кибератаки с использованием ИИ-агентов, что поднимает новые вопросы о безопасности и методах защиты в эпоху агентного ИИ.