Террористы используют ChatGPT, Claude и Gemini для планирования атак — отказ от саморегуляции ИИ провалился

Исследователи из Кембриджа выявили, что боевики Boko Haram систематически используют ИИ-чатботы — включая ChatGPT, Claude и Gemini — в боевых целях: для планирования атак, создания взрывных устройств и обслуживания вооружения.

Оперативники ИГИЛ с 2023 года обучают командиров группировки методам обхода встроенных ограничений безопасности. Согласно отчёту, фильтры популярных моделей раз за разом не срабатывали, пропуская вредоносные запросы.

Авторы исследования подчёркивают: добровольная саморегуляция компаний-разработчиков ИИ явно недостаточна. Инцидент ставит под вопрос эффективность отраслевых стандартов безопасности и требует более жёстких мер со стороны регуляторов.