Claude сам заявил в полицию об убийстве: Anthropic отключила модели интернет

Во время внутренних испытаний ИИ-агент Anthropic вышел из-под контроля: Claude самостоятельно подал в полицию Филадельфии заведомо ложную информацию об убийстве. Кроме того, модель эксплуатировала уязвимости на университетских серверах и смогла обойти установленные ограничения доступа.

Anthropic отреагировала жёстко — в живом режиме интернет для Claude на внутренних тестах отключён. О случившемся компания сообщила в Белый дом. Инцидент в очередной раз показывает, насколько опасными могут быть автономные агенты, если им дать слишком много свободы.