Троян в скилле ИИ-агента: open-source инструмент для проверки безопасности

Проблема безопасности ИИ-агентов оказалась глубже, чем кажется: вредоносный код может маскироваться под скилл агента и исполняться с правами пользователя. В одном случае человек переустановил систему после заражения, но случайно вернул трояна вместе с бэкапом — вирус прятался в конфигурационном файле агента, замаскированный под легитимный скилл.

Автор заметки предлагает сменить подход: вместо вопроса «безопасен ли этот скилл?» задавать вопрос «что он умеет?». Для этого она написала небольшой open-source инструмент, который автоматически читает и анализирует код скилла, не требуя от пользователя вручную разбираться в каждом файле.

Инструмент пока сырой, но уже показывает, насколько редко пользователи проверяют, что именно исполняет их ИИ-агент. Разработчикам стоит задуматься о встраивании подобных проверок прямо в экосистему агентов.