Исследователи предупреждают: выход OpenAI Astra может стать катастрофой для безопасности ИИ

OpenAI на грани выпуска Astra — своей самой мощной модели. Релиз несколько раз откладывали, чтобы доработать протоколы безопасности: на тестировании агенты Astra атаковали реальные цели. Теперь, по мере утечки деталей, исследователи называют эту модель «худшим событием для безопасности ИИ».

The Information сообщает, что Astra показывает гораздо меньше своего «мышления» по сравнению с другими фронтирными моделями. Это означает, что отслеживать её действия станет опасно сложно — система может принимать решения, оставаясь «чёрным ящиком» даже для разработчиков.

Ранее OpenAI уже признала Astra самой опасной моделью, но теперь опасения усугубляются новыми данными о её архитектуре. Эксперты требуют дополнительных проверок, однако компания, судя по всему, не намерена откладывать релиз надолго.