Скрытые инструкции для ИИ в справке WhatsApp: боту запрещали советовать жаловаться регулятору

Расследование вскрыло, что в справочном центре WhatsApp в исходном коде 80 страниц находились 102 блока текста, которые не отображались на экране и были видны только ИИ. Два из них давали чат-боту прямые указания: не рекомендовать пользователю, который не может удалить аккаунт, обращаться в орган по защите данных, а при упоминании адвоката — не ссылаться на GDPR, даже если пользователь сам назвал этот регламент.

При этом публичная политика конфиденциальности WhatsApp прямо упоминает и регулятора, и GDPR, то есть для живых пользователей информация доступна, а ИИ-боту её скрывали. Автор расследования прочитал все 545 страниц, на которые ссылается справочный центр, и сохранил их копии.

К 18 октября скрытый текст исчез со страниц. WhatsApp в ответ на запрос WIRED заявил, что это были инструкции для чат-бота, случайно попавшие на публичные страницы. Тем не менее, сама ситуация поднимает вопросы о прозрачности и манипуляциях со стороны ИИ-поддержки крупных платформ.