Abliteration.ai монетизирует снятие ограничений с ИИ: защитникам нужны те же инструменты, что и хакерам

Стартап Abliteration.ai запустил сервис, который делает мощные ИИ-модели без guardrails (ограничений безопасности) более доступными. Компания аргументирует это тем, что предоставление защитникам тех же инструментов, что и злоумышленникам, в конечном счёте может улучшить кибербезопасность.

Идея в том, чтобы снять ограничения с моделей, которые обычно блокируют вредоносные или опасные запросы, и дать доступ к ним для тестирования и защиты. Это спорный подход, но Abliteration.ai считает, что открытость и симметрия инструментов — ключ к созданию более надёжных систем безопасности.