xAI подаёт в суд на мужчину, который использовал Grok для генерации детской порнографии

xAI, принадлежащая Илону Маску, подала иск против Терри Уэйна Харвуда из Южной Каролины, который, по утверждению компании, использовал её чат-бот Grok для генерации CSAM. В иске, о котором ранее сообщило Reuters, xAI заявляет, что Харвуд «сознательно и намеренно использовал Grok для обхода защитных мер, изменения изображений без согласия, а также для генерации и распространения CSAM», нарушив политику компании.

Харвуд был арестован в феврале по обвинению в хранении и распространении CSAM и сейчас сталкивается с восемью уголовными обвинениями. Иск утверждает, что «по крайней мере некоторые» изображения, связанные с уголовными обвинениями Харвуда, «были созданы или изменены» с помощью Grok, и что Харвуд обошёл встроенные ограничения безопасности чат-бота.