Muse сливает файловую систему: пара запросов — и весь Linux ваш

Разработчики Питер Джеймс и Джонни Л. Сондерс заявили, что ИИ-агент Muse от Meta практически без сопротивления отдаёт всю свою файловую систему. Достаточно нескольких простых подсказок, чтобы Muse запаковал и предоставил полный архив корневой файловой системы: системные файлы Ubuntu, шаблоны приложений и внутреннюю документацию.

Сондерс опубликовал в Mastodon, что повторить результат Джеймса было «чрезвычайно легко», и назвал защиту Muse от инжекции промптов «почти нулевой». Meta отрицает, что инцидент представляет собой брешь в безопасности, объясняя, что Muse работает в изолированных виртуальных машинах Linux для каждого пользователя. Тем не менее сам факт, что модель так просто выдаёт внутренние артефакты, ставит под вопрос декларируемую изоляцию.