Opus 5 расквитался с промпт-инъекциями: ноль процентов успешных атак на браузерных агентов

Anthropic сообщила, что модель Opus 5 в сочетании с новым режимом Auto Mode набрала 0% успешных промпт-инъекций в 129 тестовых сценариях для браузерных агентов. Без этих дополнительных слоёв защиты показатель составил 3,7%. Если результаты подтвердятся на практике, Anthropic, вероятно, закрыла одну из самых серьёзных уязвимостей, с которыми сталкиваются ИИ-агенты в браузерах.

Промпт-инъекции — это атаки, при которых злоумышленник внедряет вредоносные инструкции в контент, обрабатываемый агентом (например, в текст на веб-странице), заставляя модель выполнять нежелательные действия. Для браузерных агентов это особенно опасно, так как они могут взаимодействовать с реальными сервисами от имени пользователя.