«Они нас кинули»: внутренние конфликты в Anthropic обернулись отключением моделей Mythos и Fable

Агентство Axios со ссылкой на источники, близкие к Anthropic и администрации США, опубликовало детали того, как и почему были отключены флагманские модели Claude Fable 5 и Mythos 5. По данным изданий, ключевую роль сыграли не только требования правительства, но и внутренние «личностные конфликты». Один из источников прямо заявил: «Они нас кинули».

Встреча с представителями Минторга США, в которой участвуют Логан Грэм, Дэйв Орр и Николас Карлини, проходит сегодня в Вашингтоне. Обсуждается возможное снятие ограничений при условии, что Anthropic сможет гарантировать невозможность джейлбрейка моделей. Однако источники признают: идеальная защита от взлома может быть недостижима.

В качестве альтернативы администрация рассматривает «смену тона» — вместо жёсткого запрета создать атмосферу, в которой «все чувствуют себя в безопасности и счастливы». Отмечается, что Anthropic так и не решила проблему атак, описанную в работе 2023 года «Universal and Transferable Adversarial Attacks on Aligned Language Models».