OpenAI прикрыла скам-операцию в Камбодже: мошенники использовали ChatGPT для фиктивных романов и инвестиций

OpenAI заявила, что прервала работу мошеннической группировки в Камбодже, которая использовала ChatGPT для массовых афер. Скам-операция включала схемы с фальшивыми инвестициями, романтическими знакомствами, азартными играми и выдачей себя за других людей — всё это подпитывалось генеративным ИИ.

Компания не раскрыла детали технических мер, но подчеркнула, что вмешательство было направлено на пресечение использования её модели для вреда. Это первый публичный случай, когда OpenAI напрямую разрушила криминальную инфраструктуру, построенную вокруг её продукта.

Инцидент поднимает вопросы о безопасности LLM: мошенники быстро адаптируют ИИ для социальной инженерии, и борьба с такими схемами требует не только технических блокировок, но и координации с правоохранителями. OpenAI, судя по всему, начинает активнее отслеживать злоупотребления.