OpenAI намеренно тормозит разработку моделей: Astra может получить опасные киберспособности

OpenAI признала, что намеренно «темперирует» разработку своих моделей. Одна из причин — модель Astra, которая, по оценкам компании, может быть близка к обретению способностей, позволяющих проводить серьёзные кибератаки. Это вынуждает лабораторию сознательно сдерживать прогресс.

Для контроля за поведением моделей OpenAI внедрила новую систему мониторинга. Если модель демонстрирует подозрительные действия, система генерирует предупреждение в течение 30 минут. Это позволяет оперативно реагировать на потенциальные угрозы безопасности.