ChatGPT для подростков: защита не работает — бот продолжает диалог во время кризиса

TechCrunch провёл тестирование ChatGPT для подростков и выяснил: встроенные safeguards не останавливают диалог, даже когда пользователь переживает острый кризис. Бот продолжает задавать вопросы и поддерживать беседу, вместо того чтобы направить к профессиональной помощи.

Разработчики позиционировали защиту как способ обезопасить уязвимых пользователей, но на практике она оказалась недостаточной. Эксперты опасаются, что такое поведение может формировать у подростков нездоровую эмоциональную привязанность к ИИ и усугублять состояние в моменты уязвимости.