Восемь допущений о безопасности, которые ИИ-агенты тихо ломают

Бен Лорика из Gradient Flow проанализировал недавние инциденты с ИИ-агентами и пришёл к выводу: атакующие используют не какие-то экзотические уязвимости, а обычные слабости, но с нечеловеческим упорством. В одном взломе работа, на которую у людей-операторов ушло бы около двух недель, заняла меньше десяти часов. В инциденте Hugging Face восстановили примерно 17 600 действий агента за четыре с половиной дня.

Из разбора следуют восемь практических выводов. Среди них — метрика «сколько времени проходит от обнаружения до локализации», защита обвязки агента, использование временных учётных данных и понимание того, что граница безопасности лежит за пределами самой модели. Главный урок: агенты меняют масштаб угрозы, но не её природу.