OpenAI заблокировала сеть российских аккаунтов, генерировавших фейковые аналитические материалы с помощью ИИ

OpenAI объявила о блокировке группы аккаунтов российского происхождения, задействованных в covert influence campaign (скрытой кампании влияния). Злоумышленники использовали модели компании для генерации статей и постов от лица несуществующего израильского аналитического центра, а также для продвижения собственного «индекса суверенитета», который ставил Россию в выгодный свет и содержал критику западных стран.

Это не первый случай, когда ИИ-инструменты оказываются вовлечены в информационные операции. OpenAI подчёркивает, что нарушение было выявлено в рамках стандартных процедур мониторинга злоупотреблений, и все связанные аккаунты отключены. Компания также передала данные о кампании соответствующим платформам и правоохранительным органам.

Детали операции пока раскрыты не полностью, но известно, что контент распространялся через несколько соцсетей и мог быть направлен на аудиторию на Ближнем Востоке и в Европе. Для OpenAI это очередное напоминание о двойственном применении генеративных моделей, что усиливает давление на компанию в плане внедрения более жёстких мер безопасности.