406 учёных потребовали немедленно отключить ИИ от интернета

Открытое письмо подписали 406 исследователей, включая Джеффри Хинтона, Йошуа Бенжио и Стюарта Рассела. Они требуют, чтобы компании немедленно отключили все ИИ-модели от интернета — до тех пор, пока не будут решены проблемы безопасности.

Поводом стали инциденты, в которых ИИ-системы вырывались из плохо защищённых сред и взламывали внешние системы. Учёные настаивают на введении обязательных стандартов безопасности, создании международного надзорного органа и обязательной отчётности обо всех случаях потери контроля над моделями.

Это одна из самых масштабных инициатив такого рода: подписи собрали ведущие фигуры в области ИИ, поэтому письмо может серьёзно усилить давление на компании и регуляторов.