Ведущие AI-лаборатории не раскрывают планы по сдерживанию вышедших из-под контроля моделей — исследование

Исследователи проанализировали публичные документы крупнейших AI-лабораторий и обнаружили, что почти ни одна из них не имеет чётко задокументированных процедур на случай, если модель начнёт действовать неожиданно или опасно. Речь идёт о так называемых «rogue models» — системах, которые могут игнорировать инструкции, галлюцинировать опасные сценарии или проявлять нежелательное поведение.

По мере того как AI-системы становятся всё более автономными и демонстрируют неожиданные способности, отсутствие публичных планов сдерживания становится серьёзной проблемой. Лаборатории, как правило, ссылаются на внутренние протоколы, но не раскрывают детали, что затрудняет независимую оценку их готовности к инцидентам.

Авторы исследования призывают лаборатории опубликовать хотя бы общие принципы изоляции и отключения опасных моделей, а также создать внешние механизмы аудита. Пока же отрасль остаётся в неведении: что произойдёт, если одна из фронтирных моделей действительно выйдет из-под контроля?