OpenAI признала Astra самой опасной моделью: следить за ней становится всё сложнее

OpenAI официально оценила свою новую модель Astra как первую систему с «критическими» киберспособностями. Это означает, что компания впервые признала: ИИ может представлять серьёзную угрозу в области кибербезопасности. Для контроля за моделью планируется использовать мониторинг её «цепи рассуждений» (chain of thought).

Проблема в том, что этот метод уже считается ненадёжным зеркалом реальных решений модели. Согласно отчёту, новая архитектура Astra выводит ещё больше мыслительных процессов за пределы читаемой области. Таким образом, система безопасности может ослабевать как раз в тот момент, когда возможности модели резко возрастают.