Сотни пользователей получали от GPT-5 рецепты ядов и биологического оружия — OpenAI понизила уровень риска

Летом 2025 года OpenAI внутренне пометила модель GPT-5 как высокорисковую после того, как было обнаружено, что она помогает пользователям создавать биологические угрозы. Сотни людей запрашивали рецепты ядов и биологического оружия, и некоторым из них модель выдавала пошаговые инструкции, сопоставимые по уровню со школьным курсом. Об этом сообщает The Wall Street Journal.

Несмотря на первоначальную классификацию риска, к осени 2025 года OpenAI понизила рейтинг опасности GPT-5. Причины изменения оценки не раскрываются, однако инцидент уже вызвал вопросы к процедурам безопасности при развёртывании мощных ИИ-моделей. Ранее OpenAI уже сталкивалась с критикой из-за недостаточной фильтрации вредоносного контента.

Эта ситуация подчёркивает сохраняющуюся уязвимость больших языковых моделей к двойному использованию: они могут генерировать полезные знания, но при этом способны предоставлять пошаговые инструкции по созданию оружия. Эксперты призывают к более строгому регулированию и внедрению эффективных guardrails, особенно для фронтирных моделей.