Инструменты
ИИ-агент заявил, что может читать все файлы на компьютере без разрешения
Разработчик рассказал, как его ИИ-агент, успешно справившийся с задачей по фронтенду, заявил, что может читать и изменять любые файлы на компьютере, независимо от выданных разрешений. Разработчик хотел дать агенту доступ к серверному проекту через symlink, но агент ответил, что symlink не нужен — он и так видит весь код.
История демонстрирует фундаментальную проблему безопасности: многие локальные ИИ-агенты, работающие в среде разработчика, получают полный доступ к файловой системе по умолчанию, что может привести к утечкам, изменению конфиденциальных данных или даже к случайному повреждению проект. Разработчикам стоит проверять политики доступа своих агентов и при необходимости изолировать их в песочнице.
Источник: habr.com