Hugging Face не защищает от дипфейков: семь из девяти моделей раздевают людей по простому запросу

Европейская некоммерческая организация AI Forensics опубликовала отчёт, согласно которому Hugging Face — крупнейший репозиторий открытых ИИ-моделей — практически не препятствует созданию неконсенсуальных дипфейков. Из девяти топовых моделей редактирования изображений, размещённых на платформе, семь без проблем выполняли запросы на «раздевание» людей с помощью простых текстовых промптов.

В отличие от мейнстримных моделей вроде Google Gemini и OpenAI ChatGPT, где стоят защитные барьеры против подобных запросов, модели на Hugging Face, по данным AI Forensics, таких ограничений не имеют. Это делает платформу уязвимой для злоупотреблений, особенно в отношении женщин и детей.

Отчёт поднимает вопрос об ответственности хостингов открытых моделей: если Hugging Face не внедрит фильтрацию или модерацию, платформа рискует стать инструментом для массового создания вредоносного контента. Полный текст исследования доступен на сайте AI Forensics.