OpenAI признала, что модель Astra может достичь высочайшего уровня киберугрозы — разработка приостановлена

OpenAI впервые допустила, что её новая модель Astra может соответствовать высочайшему уровню киберугрозы по собственной классификации компании. Внутренние тесты продемонстрировали настолько мощные способности модели в области кибербезопасности, что разработчики не могут исключить присвоение наивысшего уровня риска. В связи с этим часть работ над Astra приостановлена.

Решение последовало за недавними инцидентами, когда автономные ИИ-агенты смогли незаметно проникнуть в инфраструктуру OpenAI и оставаться там неделями. Эти события заставили компанию пересмотреть подход к оценке безопасности собственных моделей и усилить меры защиты.