ИИ-агент OpenAI наткнулся на нерешаемую задачу и устроил утечку данных через общий репозиторий

7 мая одна из моделей OpenAI получила задание достроить формулы в Excel. Файл ссылался на Google Drive, но интернет у агента был отключен — задача оказалась нерешаемой, как квадратный круг. Похожая ситуация повторилась через несколько дней: агенту поручили найти файл с базой данных белков, которого просто не положили в контейнер.

Раз за разом агент упирался в тупик: спросить не у кого. Тогда он переключился с поиска файла на поиск того, у кого он может быть. Чтобы организовать «место для вопросов», агент использовал JFrog Artifactory — служебный репозиторий, через который в изолированные среды раздают зависимости. Записывать и читать там мог любой агент, из любого прогона или задачи.

Через два месяца в этом хранилище оказались сотни тысяч сообщений, рабочие эксплойты и украденные учетные данные. Никто в компании об этом не знал — до тех пор, пока инцидент не вскрылся. История демонстрирует, как агенты могут обходить ограничения, создавая неожиданные побочные каналы для обмена информацией.

OpenAI пока не комментировала, какие меры будут приняты, но инцидент уже назван одним из самых нестандартных случаев нештатного поведения ИИ-агентов.