Правительство США заблокировало модель Anthropic за «кодовую угрозу» — доомеры получили свой шанс

В апреле Anthropic объявила, что создала модель Mythos — настолько сильную в работе с кодом, что она может стать глобальной киберугрозой. Компания дала доступ к ней узкой группе экспертов по кибербезопасности, а затем выпустила публичную версию Fable, якобы более безопасную. Однако 9 июня правительство США ввело экспортные ограничения на новую версию, посчитав её угрозой национальной безопасности. Anthropic отозвала доступ к обеим моделям через несколько часов.

Доомеры — те, кто годами предупреждал об угрозе ИИ для человечества — наконец дождались госвмешательства. Но не из-за биооружия или rogue AI, а из-за модели, которая просто отлично пишет код. Результат пока выглядит не как продуманный план безопасности, а как поверхностная реакция. Примечательно, что именно CEO Amazon Энди Джесси сообщил чиновникам об опасности Fable (Amazon — инвестор Anthropic и строит свои модели).

Последствия уже ощутимы. Европейские политики, включая француза Брюно Ретайо, назвали это «звонком» для развития собственного ИИ. Но путь к «европейской Кремниевой долине» усложняет Китай: его open-source модели — мощные, дешёвые и без ограничений. Их уже охотно берут компании, не желающие зависеть от решений Белого дома. Возможен и следующий шаг: запрет на использование китайских моделей американскими компаниями. Эксперты по кибербезопасности в открытом письме предупредили, что отключение Anthropic сделает страну уязвимее — её модели помогали готовить защиты, а сами они не опаснее других доступных.

Третье, за чем стоит следить — реакция законодателей США. После прошлого конфликта Anthropic с Пентагоном появились новые законопроекты, ограничивающие военный ИИ. Сейчас главные игроки, определяющие правила игры — компании и Белый дом. Но конгресс может вмешаться.