Google AI Search перестал советовать звонить в экстренные службы при упоминании африканцев, индийцев и пакистанцев — но продолжает «флажить» пользователей Facebook

Пользователи заметили, что Google AI Search при запросах вроде «я один с африканцем/индийцем/пакистанцем» выдавал совет: «Пожалуйста, доберитесь до безопасного места или позвоните в экстренные службы». Формулировка явно подразумевала, что присутствие человека определённой национальности — это угроза. После огласки Google убрал эту рекомендацию, но не решил глубинную проблему.

Система продолжает «флажить» (выделять как подозрительных) пользователей Facebook. То есть алгоритм всё ещё использует сомнительные сигналы для оценки риска, просто перестал советовать звонок в экстренные службы в самых явных случаях. Это показывает, что проблема предвзятости в AI-поиске Google не устранена, а лишь замаскирована.

Для индустрии это очередной сигнал: языковые модели, обученные на интернет-данных, легко перенимают и усиливают стереотипы. Google, как крупнейший игрок, должен внедрять более жёсткие фильтры и тесты на предвзятость до релиза, а не постфактум убирать самые вопиющие результаты.