Google Earth на короткое время запустил функцию, позволяющую пользователям создавать модифицированные с помощью искусственного интеллекта версии спутниковых снимков. Компания отозвала инструмент после того, как пользователи начали делиться примерами сгенерированных изображений, демонстрирующих потенциал для дезинформации.
Новая функция, использующая генератор изображений Nano Banana 2 от Google, позволяла создавать пользовательские изображения на основе спутниковых, аэрофотоснимков и 3D-изображений Google Earth.
Исследователи выразили обеспокоенность, поскольку Google Earth часто используется для проверки подлинности изображений и видео. Они показали, как новый инструмент упрощает создание ложных сценариев, наложенных на фотореалистичные изображения Google Earth.
Элиот Хиггинс из Bellingcat саркастически отметил, что инструмент «никак не может быть использован во зло», приведя в пример сгенерированное изображение гигантской золотой статуи Дональда Трампа над Белым домом.
В течение суток Google объявил в социальной сети X об отзыве функции. Компания изначально заявляла, что инструмент может быть полезен для визуализации завершенных строительных проектов или реконструкции исторических мест.
Хенк ван Эсс, независимый исследователь, описал, как он смог создать изображения с беженцами у мексиканской границы, атомной электростанцией в Иране и аварией на улице в Амстердаме, используя спутниковые снимки Google.
Google отвечал на критику, указывая на свою систему SynthID, которая встраивает цифровые водяные знаки в изображения, созданные инструментами ИИ. Однако критики сомневались в эффективности этой системы, поскольку подделки часто распространяются в виде скриншотов или перекодированных файлов.
Введение такого инструмента рисковало подорвать доверие к Google Earth как к надежному источнику подлинных изображений реального мира. Это также могло дать повод отрицать подлинность настоящих спутниковых снимков, утверждая, что они были сгенерированы ИИ.
Google временно удалил функцию, заявив, что работает над усилением мер безопасности, но не исключил ее возвращения в будущем.