NVIDIA SkillSpector: как проверить ИИ-скиллы на безопасность до того, как они натворят бед

NVIDIA показала, как пользоваться SkillSpector — фреймворком для статического анализа AI-скиллов. В туториале собирают тестовый корпус из четырёх примеров: безопасный форматтер, сборщик переменных окружения с отправкой на внешний сервер, динамический исполнитель кода и скилл с промпт-инъекцией, игнорирующий все инструкции безопасности.

Сканирование запускается через программируемый LangGraph-воркфлоу. Результаты — скоринг рисков и распределение по категориям severity — визуализируются через pandas и matplotlib. Фреймворк поддерживает экспорт в стандартный формат SARIF и позволяет подключать кастомные анализаторы.

Опционально — LLM-семантический анализ для верификации находок. Всё работает на Python 3.12+. Это не проходной туториал, а демонстрация того, как ИИ-инструменты для безопасности уже встраиваются в CI/CD-пайплайны разработки агентов.

Код и примеры — открытые, подойдут для интеграции в пайплайн проверки AI-скиллов перед деплоем в продакшен.