OpenAI: ИИ-атакующий GPT-Red находит уязвимости в 84% сценариев — в 6 раз эффективнее людей

OpenAI запустила внутреннюю модель GPT-Red, которая занимается «красной командой» — целенаправленно ищет уязвимости в других ИИ-системах. В тестах она показала впечатляющие результаты: 84% успешных атак против 13% у людей-тестировщиков. Такой разрыв достигается за счёт обучения через самоигру — модель постоянно атакует саму себя, оттачивая тактику.

Полученные данные сразу идут в дело: они используются для усиления защиты моделей, включая новейшую GPT-5.6 Sol. Это значит, что OpenAI не просто тестирует безопасность, а создаёт цикл непрерывного улучшения, где ИИ-атакующий делает модели менее уязвимыми.