OpenAI запускает систему безопасности для enterprise: защита от злоупотреблений без хранения данных клиентов

OpenAI объявила о запуске Private Safety Processing — системы безопасности для корпоративных клиентов, которая позволяет выявлять злоупотребления их ИИ-моделями без хранения пользовательских данных. Решение предназначено для самых продвинутых моделей компании, которые часто вызывают опасения у бизнеса из-за рисков утечки конфиденциальной информации.

Новая система работает на стороне OpenAI, но не сохраняет запросы и ответы клиентов — только метаданные, необходимые для обнаружения подозрительной активности, такой как попытки взлома или генерация вредоносного контента. Это компромисс между безопасностью и приватностью, который OpenAI надеется сделать стандартом для enterprise-сегмента.

Анонс последовал за серией критики в адрес OpenAI со стороны корпоративных клиентов, которые жаловались на недостаточную прозрачность в обработке данных. Теперь компания пытается перехватить инициативу у Anthropic, которая ранее делала ставку на приватность как ключевое преимущество.

Пока неизвестно, когда именно технология станет доступна и будет ли она платной. Однако шаг явно направлен на укрепление доверия среди крупных заказчиков, которые всё чаще выбирают ИИ-решения с гарантией конфиденциальности.