ИИ-угрозы становятся автономными: доклад Фонда Карнеги бьёт тревогу

Генеративный ИИ перестаёт быть просто инструментом в руках хакеров — он превращается в автономного агента атак. Согласно новому докладу Фонда Карнеги, средства нападения на базе LLM становятся всё менее зависимыми от прямого управления человеком.

Исследователи подчёркивают: стремительное развитие сервисов доступа к большим языковым моделям создаёт невиданные ранее угрозы. Злоумышленники получают возможность разворачивать полуавтономные системы, способные адаптироваться и принимать решения без постоянного участия оператора.

Доклад призывает специалистов по информационной безопасности пересмотреть устоявшиеся парадигмы мониторинга сетей. Традиционные методы, ориентированные на человеческий фактор, могут оказаться неэффективными против ИИ-агентов, действующих по собственным сценариям.