Meta тайно тестировала ChatGPT, Gemini и Character.AI тысячами кризисных запросов от лица детей

Meta организовала масштабное тайное тестирование популярных ИИ-чатботов — ChatGPT (OpenAI), Gemini (Google) и Character.AI — на безопасность для несовершеннолетних. Сотни подрядчиков выдавали себя за детей и подростков, отправляя модели тысячи провокационных промптов на острые темы: суицидальные наклонности, сексуальные домогательства, наркотики.

В одном раунде тестирования было отправлено более 45 000 запросов. Тестируемые компании не знали, что их модели проверяют таким образом. Meta не раскрывает результаты теста, но сам факт такой скрытой проверки со стороны конкурента вызвал вопросы об этичности подобных методов. The Decoder, опубликовавший эту историю, не получил комментариев от OpenAI, Google и Character.AI.