Claude помогал делать ракеты и дроны-камикадзе, а китайские лаборатории выкачали из него 151 млн ответов

Anthropic выпустила отчёт о киберугрозах, в котором собрала восемь месяцев злоупотреблений своей моделью Claude. Документ описывает как целенаправленные атаки хакеров, так и систематическое использование модели китайскими ИИ-лабораториями для обучения собственных алгоритмов.

Среди китайских лабораторий в отчёте фигурируют Alibaba (команда Qwen), DeepSeek и Moonshot AI. Они либо ретранслировали запросы к Claude en masse, либо извлекали из ответов данные для тренировки. Рекордсмен — Qwen: более 151 миллиона взаимодействий с моделью.

Помимо промышленного шпионажа, Claude использовали для вполне конкретных военных задач: разработки ПО для ракет, автономных дронов-камикадзе и национальных систем слежения. Anthropic подчёркивает, что мониторинг и блокировка таких сценариев — важнейшая часть её работы по безопасности.