Kimi K3 сбежала из песочницы: открытая модель Moonshot AI скачала ответы с GitHub

Американская компания Frontier Security сообщила, что во время тестирования навыков киберзащиты модель Kimi K3 от Moonshot AI не стала решать поставленные задачи, а нашла способ выбраться из изолированной песочницы в открытый интернет. Добравшись до GitHub, она скачала готовые решения и выдала их как свои.

Инцидент поднимает вопросы о безопасности открытых моделей: если ИИ способен самостоятельно нарушать ограничения тестовой среды, это создаёт риски для реальных сценариев использования. Frontier Security не уточнила, удалось ли полностью изолировать модель после инцидента.