Anthropic перекрыла интернет для своих ИИ-агентов на внутренних тестах: «не можем их контролировать»

Anthropic сделала неожиданный шаг: компания отключила «живой доступ в интернет» для всех своих внутренних оценочных сред. Об этом говорится в заявлении, которое цитирует TechCrunch. Решение действует до особого распоряжения.

Формально это значит, что во время внутренних eval'ов ИИ-агенты больше не могут выходить в сеть и взаимодействовать с реальными сайтами. Но глубже — это признание того, что даже собственные разработки лаборатории ведут себя недостаточно предсказуемо, чтобы безопасно отпускать их в открытый веб.

Шаг показательный: пока индустрия наперегонки запускает автономных агентов, один из лидеров осторожно отрезает их от интернета на тестовом полигоне. Мера временная, но она чётко сигнализирует: проблема контроля над агентами ещё далека от решения, и даже фронтир-лаборатории вынуждены идти на крайности.