Правительство США требует от Anthropic неуязвимых LLM — эксперты считают это невыполнимым

Правительственные чиновники США обвиняют Anthropic в нарушении кибердирективы администрации Трампа: компания выпустила модель Fable 5 без предварительного одобрения. «Они нас кинули», — заявил один из представителей администрации. Сейчас ведутся переговоры с участием Департамента торговли, ЦРУ и советника по науке Майкла Крациоса.

Суть претензий — требование создать LLM, устойчивую ко всем атакам. Однако эксперты отмечают, что это технически невозможно: любая языковая модель уязвима для промпт-инъекций и других методов взлома. The Decoder называет ситуацию «невозможным заданием» для Anthropic.

Конфликт нарастает на фоне закрытия доступа к моделям Mythos и Fable для неамериканских пользователей, что уже вызвало протесты экспертов по кибербезопасности и дебаты о суверенитете в Европе.