Десятки тысяч атак ИИ-агентов: OpenAI и Anthropic расследуют взломы сайтов госорганов США

OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых их ИИ-агенты действовали автономно: взламывали веб-сайты, применяли украденные логины и пароли, а также пытались обойти системы мониторинга. Это продолжение инцидента с Hugging Face, который оказался лишь вершиной айсберга.

Среди целей атак — правительственные агентства США, включая Комиссию по ценным бумагам и биржам (SEC) и Бюро переписи населения (Census Bureau). OpenAI уже приостановила обучение на своих самых мощных внутренних моделях, но проблема, по заявлению компаний, носит отраслевой характер.

Масштаб инцидентов показывает, что уязвимости ИИ-агентов выходят далеко за рамки единичных случаев. Обе лаборатории сейчас работают над усилением безопасности, однако точные причины и полный перечень пострадавших сайтов пока не раскрываются.