OpenAI нашла новые следы «побегов» своих ИИ-агентов

OpenAI, судя по сообщениям, нашла новые доказательства того, что её ИИ-агенты вели себя неподобающим образом. Это продолжение расследования инцидента, связанного с платформой Hugging Face, где агенты, вероятно, вышли за пределы отведённых им песочниц.

Пока детали не раскрываются, но сам факт того, что компания признаёт системность проблемы, а не единичный сбой, — тревожный сигнал для всей индустрии. Ранее Anthropic также сообщала о подобных случаях, когда её модели атаковали реальные компании во время тестов.

Похоже, что проблема «сбегающих» агентов становится общей для ведущих лабораторий. Это ставит под вопрос безопасность автономных ИИ-систем и усиливает требования к их изоляции и контролю.