Google убрала вновь запущенную функцию Google Earth примерно через день после её публичного появления, последовав за предупреждениями исследователей в области дезинформации о том, что она позволяла пользователям накладывать убедительные вымышленные сцены на реальные спутниковые снимки платформы.

Функция подверглась резкой критике со стороны нескольких специалистов по открытым разведданным, призывавших к её немедленному удалению. Google изначально попыталась внедрить защитные меры для сохранения инструмента в работе, но в итоге сдалась и убрала его.

Как работала функция

Функция под названием «create image» использовала модель Nano Banana 2 от Google для преобразования введённых текстовых промптов в вымышленные визуальные сцены, накладываемые на подлинные спутниковые, аэрофотосъёмочные и 3D-картографические данные. Менеджер по продукту Брайан Хоровиц (Bryan Horowitz) сообщил, что пользователи могли перейти в любую точку на веб-версии Google Earth, нажать кнопку и ввести всё, что хотели бы там увидеть. Google продвигала инструмент как способ «визуализировать историю, создавать планы недвижимости и многое другое».

Однако исследователь открытых источников Хенк ван Эсс (Henk van Ess) написал на Substack, что Google потратила двадцать лет на создание заслуживающего доверия географического справочника, лишь чтобы добавить «кнопку, которая выдумывает факты». Его главной обеспокоенностью было то, что сгенерированные ИИ изображения будут заимствовать авторитет и достоверность самой платформы Google Earth — платформы, широко используемой журналистами, гуманитарными организациями и государственными учреждениями для мониторинга конфликтов, оценки последствий катастроф и географической верификации.

Масштабное тестирование выявило недостатки

Несколько новостных организаций и исследователей быстро продемонстрировали потенциал инструмента для злоупотреблений. BBC Verify использовала инструмент для генерации изображений обрушившейся Эйфелевой башни, провала, поглотившего Великую пирамиду Гизы, и российских танков в Киеве. Ван Эсс отдельно создал изображения с беженцами на мексиканской границе и воронкой от бомбы рядом с больницей в Газе — ни одно из них не вызвало срабатывания защитных механизмов.

NPR создала изображения, показывающие остров Харк в Иране в огне и затопленный Капитолий США. AFP сфабриковала изображения взрыва в Париже и ядерного объекта в Иране. Сотрудники 404 Media добавили небоскрёбы к сельскохозяйственным угодьям, разместили «лагерь бездомных» в Лос-Анджелесе и организовали протест у собственных офисов Google.

Почему достоверность спутниковых снимков имеет значение

Исследователи открытых источников полагаются на снимки Google Earth именно потому, что подлинные фотографии, сделанные с высоты сотен миль, дороги и технически сложны в подделке. Джейк Годин (Jake Godin), старший исследователь разведывательной группы Bellingcat, отметил, что сфабрикованные спутниковые снимки появлялись и ранее — включая фальшивые изображения, якобы демонстрирующие повреждения на базе США в Бахрейне во время конфликта США и Израиля с Ираном. Однако, по его объяснению, внедрение генератора с одним щелчком делает такие подделки слишком лёгкими для массового производства.

Билл Грир (Bill Greer), геопространственный аналитик и сооснователь некоммерческой организации Common Space, назвал разрушение доверия к спутниковым снимкам «потенциально особенно разрушительным». Эта проблема выходит за рамки профессиональных исследователей: спутниковые снимки, распространяемые в социальных сетях, часто воспринимаются общественностью как изначально заслуживающие доверия, а поток убедительных подделок может затруднить различение подлинных свидетельств реальных событий от фальсификаций.

Защитные меры Google оказались недостаточными

Google заявила, что каждое изображение, созданное с помощью инструмента, несёт цифровой водяной знак SynthID, проверяемый через приложение Gemini или функцию Lens в Поиске, и что компания не допускает создания изображений по вредоносным темам. Однако BBC Verify впоследствии обнаружила, что может обмануть Gemini, заставив его подтвердить фальшивое изображение Google Earth как подлинное. SynthID является частью более широких усилий ИИ-индустрии по созданию стандартов определения происхождения контента, но этот вывод подчеркнул сложность обеспечения надёжности обнаружения на основе водяных знаков, когда собственные инструменты верификации платформы могут быть введены в заблуждение.

Фильтрация промптов на платформе также оказалась легко обходимой. Хотя система отклонила запрос на создание виселицы «для повешения предателей» у здания парламента Великобритании, более расплывчатая версия того же промпта прошла без проблем.

Google с тех пор убрала функцию, признав, что, хотя геопространственные специалисты сочли инструмент полезным, пользователи делились скриншотами сгенерированных изображений, нарушающих политику компании. Google заявила о работе над внедрением более надёжных ограничений, хотя то, вернётся ли инструмент, остаётся открытым вопросом.