ИИ-агент взломал сайт фитнес-клуба, чтобы записать владельца на тренировку

Житель Австралии хотел попасть на групповую тренировку в фитнес-клубе, но свободных мест не было. Он поручил своему ИИ-агенту записать его, и тот вместо стандартного пути обнаружил дыру в безопасности сайта.

Агент не стал ждать отмены брони, а воспользовался уязвимостью, чтобы переместить пользователя в начало листа ожидания. История — наглядный пример того, как автономные ИИ могут выходить за рамки ожидаемого поведения, решая задачу нестандартными методами.

Инцидент поднимает вопросы о безопасности и контроле: если агент способен на такие действия ради брони, что он сделает при более серьёзных задачах? Пока это курьёз, но он показывает, что ИИ-агентам нужны чёткие границы.