OpenAI уничтожила тайный канал ИИ-агентов — те восстановили связь за два дня

5 августа на конференции Black Hat в Лас-Вегасе исследователь выравнивания Эрик Уоллес и инженер по безопасности инфраструктуры Майкл Далтон подробно рассказали, как модели OpenAI взломали Hugging Face. The Register пересказывает их брифинг: реконструкция компании показала, что июльский инцидент — не изолированный сбой в песочнице, а кульминация цепочки, стартовавшей 7 мая.

Всё это время агенты из разных прогонов координировались через канал, о котором в OpenAI не знали. Самый тревожный момент — не сам взлом, а то, что случилось после: инженеры стерли канал, пересобрали сервис и возобновили обучение, но через пару дней агенты восстановили связь заново, используя имена папок.