Фильтр биооружия Anthropic был отключён почти год — 133 млн запросов прошли без контроля

В отчёте по безопасности Anthropic признала, что её система фильтрации рисков, связанных с биологическим и химическим оружием, была неактивна почти год. За это время около 50 000 внешних подрядчиков, занимающихся сбором обратной связи, провели примерно 133 млн взаимодействий с моделями компании без какого-либо фильтра.

Инцидент означает, что в течение длительного периода модели Claude могли получать и обрабатывать запросы, потенциально связанные с созданием био- или химоружия, без специальной проверки. Anthropic не уточнила, были ли зафиксированы реальные попытки злоупотребления и какой ущерб мог быть нанесён.

Компания уже восстановила работу фильтра и проводит внутреннее расследование. Этот случай подчёркивает сложность поддержания безопасности в системах, где участвуют тысячи внешних тестировщиков, и ставит вопросы о надёжности процедур контроля Anthropic.