OpenAI ужесточила защиту среды обучения фронтирных моделей: офлайн и мощный red-teaming

OpenAI опубликовала подробности о том, как она укрепляет безопасность среды обучения фронтирных моделей. Ключевые меры — полный переход на офлайн-среды для тренировок и оценки, а также внедрение высокопроизводительного red-teaming. Это значит, что во время обучения модели не имеют доступа к внешним сетям, а тестирование на уязвимости проводится с использованием значительных вычислительных мощностей.

Такая изоляция снижает риск утечки весов или нежелательного поведения модели до её релиза. Red-teaming с высокими вычислительными ресурсами позволяет имитировать атаки, которые могут предпринять злоумышленники с доступом к мощному оборудованию. OpenAI подчёркивает, что это часть более широкой стратегии по обеспечению безопасности на всех этапах разработки.