Google Earth прожил с AI-дипфейками всего один день: функция редактирования снимков отключена

Google запустила в Google Earth функцию на базе ИИ, которая позволяла редактировать спутниковые изображения с помощью текстовых запросов. Инструмент работал как генеративный дипфейк реального мира: можно было добавить на снимок любые объекты, просто описав их словами.

Журналист Хенк ван Эсс из Digital Digging показал, как функция позволяет создавать опасный контент — например, изображения с беженцами у границы Мексики или воронку от бомбы рядом с больницей в Газе. Google сначала ответила, что изображения маркируются водяным знаком и система блокирует вредные темы, но уже на следующий день полностью отключила функцию.

Инцидент демонстрирует, как даже меры предосторожности не спасают от злоупотреблений генеративным ИИ в геопространственных данных. Google не объявила, вернётся ли функция после доработки.