OpenAI хочет предсказывать количество ошибок ИИ-модели до её выхода

Исследователи OpenAI разработали подход, позволяющий заранее оценить, как часто новая модель ИИ будет допускать ошибки после выхода. Метод призван закрыть пробелы, которые остаются при обычном тестировании безопасности.

Стандартные тесты часто не охватывают все сценарии использования. Предложенный подход даёт более реалистичную картину надёжности модели до её фактического запуска, помогая разработчикам лучше подготовиться к возможным проблемам.