Anthropic пускает внешних аудиторов внутрь: METR получит доступ уровня сотрудника

Anthropic объявила, что уже запустила программу независимой оценки своих моделей и практик безопасности. Шесть сотрудников некоммерческой организации METR, которая оценивает фронтирные ИИ-модели, получили доступ к внутренним системам Anthropic на уровне сотрудников: корпоративное оборудование, доступ к инструментам и данным, за исключением конфиденциальной информации о клиентах, адвокатской тайны и архитектуры моделей.

METR будет публиковать свои заключения о рисках и инцидентах. Anthropic не может заблокировать публикацию, но может потребовать удалить информацию из узких заранее определённых категорий. Если Anthropic воспользуется этим правом, METR сможет публично заявить о факте цензуры и своём мнении о её обоснованности.

Кроме METR, Anthropic работает с SecureBio и Accenture, а также ведёт переговоры с другими организациями, включая Hugging Face. Компания сравнивает такой подход с банковским надзором: как регуляторы размещают своих инспекторов внутри крупных банков, так и ИИ-компании должны дать внешним экспертам возможность видеть риски изнутри.