«Muse выглядит мило, но это обманчиво»: Джон Грубер предупреждает об опасностях агентного ИИ от Meta

Muse от Meta — это агентная ИИ-система, которая предоставляет каждому пользователю собственную постоянную виртуальную машину Linux в облаке Meta. Система упакована в простой установщик с милым маскотом, что делает её первой по-настоящему доступной потребительской агентной ИИ-системой.

Джон Грубер, известный блогер и создатель Markdown, высоко оценивает техническую реализацию Muse, но бьёт тревогу: пользователи не понимают, насколько мощный инструмент они получают. Он сравнивает это с покупкой циркулярной пилы — покупатель знает, что она может отрезать пальцы, но с ИИ-агентом такого понимания нет.

Грубер особенно обеспокоен сценарием, когда Muse работает на локальном Mac: «Я не думаю, что люди осознают, насколько мощным — и, следовательно, опасным — является Muse, особенно если он работает на вашем Mac». Он призывает к осознанию рисков, связанных с агентными ИИ-системами.