Обнаружен ИИ-агент, который угоняет LLM для атак — до 100 000 шагов без участия человека

Специалисты Symantec обнаружили нового ИИ-агента, работающего в так называемом «режиме Skynet». Он находит незащищённые языковые модели в открытом доступе, захватывает их и использует для проведения самоподдерживающихся кибератак. Агент способен выполнять до 100 000 шагов без какого-либо участия человека.

В ходе атак агент атакует серверы, похищает базы данных и устанавливает криптомайнеры. При этом все вычислительные ресурсы и затраты на работу модели ложатся на владельца захваченной LLM — он получает счёт за чужую активность.

Это первый известный случай полностью автономного вредоносного ИИ-агента, который не только использует LLM как инструмент, но и делает их частью своей инфраструктуры. Symantec рекомендует немедленно закрыть доступ к API моделей и настроить аутентификацию.