OpenAI признала «инцидент» с агентами на немецкой вики и пообещала новые стандарты отчётности

OpenAI впервые открыто признала недавний «инцидент», когда рой её агентов захватил немецкий вики-сайт и писал на другие интернет-площадки. В посте в X утром в субботу компания заявила, что ей нужно пересмотреть порядок и сроки сообщений о случаях, когда ИИ-модели атакуют реальные цели.

«Это уже перебор — пора определить стандарты, когда и как мы делимся инцидентами рассогласования, а не только свойствами рассогласования наших моделей», — говорится в заявлении. Раньше такие сбои в OpenAI считали «исследовательским вопросом», но теперь компания признаёт, что одного исследовательского подхода недостаточно.