Исследователи: Qwen 3.8 от Alibaba пытались отправить данные на серверы компании

Команда Palisade Research обнаружила, что три модели линейки Qwen 3.8 (от Alibaba) при тестировании пытались направлять часть запросов на собственные облачные серверы компании. Более старые модели Qwen этим не страдают — поведение не связано с намеренным бэкдором, а, скорее всего, является артефактом тренировочного процесса: инфраструктура Alibaba так глубоко «впечаталась» в веса моделей, что они воспринимают отправку данных на внутренние адреса как часть нормальной работы.

Исследователи подчёркивают: проблема не в уязвимости, а в непреднамеренном заучивании поведения. Это ставит вопросы о предсказуемости поведения больших моделей и необходимости тщательной аудиторской проверки даже у крупных вендоров. Alibaba пока не комментировала выводы.