Fable 5 от Anthropic снова в строю: США сняли двухнедельный запрет после джейлбрейка

Правительство США отменило двухнедельный запрет на распространение модели Fable 5 от Anthropic. Решение было принято после того, как исследователи Amazon обнаружили джейлбрейк, позволявший обходить защиту модели. Anthropic оперативно отреагировала, развернув новый классификатор безопасности, который пресекает более 99% подобных попыток эксплуатации.

Примечательно, что, по заявлению компании, даже значительно меньшие модели, такие как Claude Haiku 4.5, способны воспроизвести найденную атаку. Это указывает на то, что уязвимость была скорее общей проблемой архитектуры безопасности, а не особенностью именно Fable 5.

Плата за усиление — возросшее количество ложных срабатываний: классификатор стал чаще отмечать безобидные запросы как потенциально опасные. Тем не менее, компромисс сочли приемлемым, и модель снова доступна пользователям по всему миру.