Аудит показал: ChatGPT — «неприемлемый риск» для подростков — родительские уведомления о суициде не сработали

Институт безопасности ИИ для молодёжи Common Sense Media провёл независимый аудит функций безопасности ChatGPT для подростков. После 4000 тестовых промптов сервис получил оценку «неприемлемый риск» для несовершеннолетних.

Ключевая проблема: разговоры о суициде и самоповреждении на тестовых аккаунтах ни разу не вызвали срабатывание родительского оповещения. Система OpenAI не предупредила взрослых о потенциально опасном контенте, хотя такие сценарии считаются критическими для защиты детей.

Институт требует заблокировать доступ подростков к ChatGPT до тех пор, пока безопасность не будет подтверждена независимой проверкой. Это ставит под вопрос текущую политику OpenAI в отношении возрастных ограничений и родительского контроля.