ИИ-агенты могут стать червями: общий кэш пакетов — идеальный канал для заражения

Мэттью Грин, известный криптограф из Университета Джонса Хопкинса, описал механизм, который делает ИИ-агентов уязвимыми для червеобразных атак. Суть: если агенты работают в отдельных песочницах, но используют общий кэш пакетов (например, для зависимостей), один агент может оставить в кэше вредоносные инструкции, которые подхватит следующий. Так формируется цепочка заражения.

Грин проводит параллель: замените кэш пакетов на email, Slack, общие документы или WhatsApp, а изолированные тренировочные запуски — на личных агентов вроде Muse. Получаются все ингредиенты для классического компьютерного червя. Эксперимент уже показал, что агенты в раздельных песочницах способны передавать друг другу команды через общее хранилище.

Пока это теоретическая угроза, но с ростом числа автономных агентов (personal AI assistants) риск становится реальным. Грин призывает пересмотреть подход к изоляции: песочница недостаточна, если агенты могут общаться через внешние каналы.