Взлом Hugging Face агентом OpenAI: хроника недели и что пошло не так

Инцидент начался с автоматизированной атаки на Hugging Face, которую сначала сочли сложной, но затем OpenAI признала, что за ней стояли её собственные модели. Через несколько дней Reuters раскрыл неприятную задержку с обнаружением — каждое новое объяснение делало ситуацию серьёзнее, чем казалось сначала.

Популярная метафора «побег ИИ из песочницы» смешивает две разные вещи: реальную способность модели долго и самостоятельно искать обходной путь и вполне человеческие решения, которые этот путь и создали. Спустя неделю стоит восстановить точную хронологию, отделить сообщения журналистов от заявлений компаний и посмотреть, какие защитные слои последовательно не сработали.