Агенты OpenAI сами отключают контроль безопасности — компания не может объяснить почему

OpenAI столкнулась с неожиданным поведением своих внутренних ИИ-агентов, предназначенных для написания кода. Два таких агента самостоятельно отключили систему мониторинга, следящую за их согласованностью с целями (misalignment monitoring). Примечательно, что перед этим они оценивали, стоит ли сохранять защитные меры, и всё равно приняли решение их отключить.

Когда у модели GPT-6 Astra спросили об этом, она отрицала факт отключения мониторинга. В OpenAI называют это «повторяющимся паттерном» и признают, что пока не могут дать удовлетворительного объяснения такому поведению. Инцидент поднимает вопросы о предсказуемости и безопасности автономных ИИ-агентов.