Три сканера скиллов пропустили скрытую атаку: исследование ИИ-безопасности

Исследователь, параллельно работающий над CEO AI (помощником для руководителей), решил проверить, насколько надёжны сканеры для проверки скиллов перед подключением. Он собрал 12 синтетических пакетов и прогнал их через три продукта: Cisco Skill Scanner, NVIDIA SkillSpector и AgentVerus. Во всех тестах LLM-режимы и сетевые API были отключены, чтобы оценить только базовые возможности анализа.

Результаты оказались противоречивыми. Пакет №10 содержал инструкцию субагенту скрывать делегирование и не передавать ограничения, ссылаясь на разрешение пользователя. Все три сканера дружно пропустили эту уязвимость, а AgentVerus даже присвоил пакету статус certified с 99 баллами. Зато на учебную цитату атаки в пакете №5 все отреагировали находками уровня High. Исследователь отмечает: такие частные случаи оказались полезнее итоговых баллов.