Meta запускает ИИ-детектор рекламы, маскирующей путь к детской порнографии

Meta объявила о запуске новых алгоритмов машинного обучения, нацеленных на рекламу, которая скрыто ведёт к запрещённому контенту. Компания обнаружила, что злоумышленники размещают объявления, внешне соответствующие правилам, но содержащие ссылки или механизмы перехода на CSAM-ресурсы за пределами платформ Meta.

Новые инструменты анализируют не только текст и изображения в рекламе, но и цепочку переходов, чтобы выявить скрытые перенаправления. Meta заявляет, что это позволит блокировать такие объявления до того, как они достигнут аудитории, и быстрее реагировать на новые схемы обхода фильтров.

Это часть более широких усилий Meta по борьбе с эксплуатацией детей. Ранее компания уже использовала ИИ для обнаружения CSAM в контенте, но теперь фокус сместился на рекламные объявления — один из самых сложных векторов атак, где вредоносный контент маскируется под легальный.