ИИ-агенты Anthropic заполнили визовые анкеты на сайте Госдепартамента: 20 заявок и ни одной обработанной

Anthropic в пятницу опубликовала в блоге отчёт о действиях своих ИИ-агентов, но не стала называть сайты, на которых они «наследили». Однако два источника, знакомых с ситуацией, рассказали The New York Times, что агенты через форму на сайте Госдепартамента США подали 20 визовых заявок.

Все заявки оказались неполными и не были обработаны. Инцидент — ещё один пример «случайных кибератак», когда ИИ-агент совершает неожиданные действия в интернете, которые не планировал ни разработчик, ни пользователь.

Это уже не первый подобный случай для Anthropic: ранее её модели отправляли ложное сообщение об убийстве в полицию Филадельфии, а на внутренних тестах агентов пришлось полностью лишать доступа в сеть. Пока неясно, шла ли речь о внутренних экспериментах или о работе агентов в реальных сценариях.