Правительство отключило самую мощную модель Anthropic — меры безопасности сработали против компании

Anthropic выразила разочарование в связи с решением правительства отозвать её самую мощную модель ИИ. Причиной стало обнаружение узкого jailbreak-уязвимости, которое, по мнению властей, требует немедленного отзыва модели, развернутой для сотен миллионов пользователей.

Компания заявила, что не согласна с такой оценкой: «Мы считаем, что находка узкого потенциального jailbreak не должна быть причиной для отзыва коммерческой модели, используемой сотнями миллионов людей». Anthropic подчеркивает, что риск минимален, а отзыв наносит ущерб пользователям и бизнесу.

Этот инцидент поднимает вопросы о балансе между безопасностью и доступностью ИИ. Решение правительства может стать прецедентом для регулирования мощных моделей, особенно когда меры безопасности сами приводят к обратному эффекту — блокировке полезных технологий.