ИИ-модели Anthropic отключили по всему миру: Белый дом потребовал блокировки Fable 5 и Mythos 5 из-за угрозы кибератак

12 июня правительство США выпустило предписание, обязывающее Anthropic ограничить доступ к свежевыпущенным моделям Fable 5 и Mythos 5 для пользователей за пределами страны. Модели были запущены 9 июня, и тогда компания заявила, что Fable 5 превосходит по возможностям все предыдущие версии, а Mythos 5 — та же модель, но с ослабленными ограничениями безопасности.

Причиной предписания стали переговоры Amazon с Белым домом: исследователи безопасности обнаружили, что Fable 5 можно обманом заставить выдавать инструкции для кибератак. После этого Anthropic оперативно отключила доступ к обеим моделям для всех клиентов.

«Мы выполняем юридическое предписание правительства и закрываем доступ к Fable 5 и Mythos 5 для всех пользователей. Однако мы считаем, что выявленный узкий jailbreak не является основанием для отзыва коммерческой модели, развёрнутой у сотен миллионов людей», — заявили в Anthropic. Компания уже находилась в конфликте с Пентагоном по другому вопросу, и этот инцидент только подлил масла в огонь дискуссий о регулировании ИИ.

История продолжает развиваться: появляются сообщения о возможном доступе Китая к модели Mythos, а в отрасли разгораются споры о том, насколько жёстким должно быть государственное регулирование前沿ных моделей.