Google hat eine neu gestartete Google-Earth-Funktion nach etwa einem Tag öffentlicher Verfügbarkeit entfernt, nachdem Desinformationsforscher davor gewarnt hatten, dass sie Nutzern erlaubte, überzeugende erfundene Szenen über die echten Satellitenbilder der Plattform zu legen.

Die Funktion stieß auf scharfe Kritik von mehreren Open-Source-Intelligenz-Experten, die ihre sofortige Entfernung forderten. Google versuchte zunächst, Schutzmaßnahmen zu implementieren, um das Tool in Betrieb zu halten, gab jedoch letztendlich nach und nahm es vom Netz.

Funktionsweise der Funktion

Die Funktion mit dem Namen „create image" nutzte Googles Nano-Banana-2-Modell, um eingegebene Text-Prompts in erfundene visuelle Szenen umzuwandeln, die über echte Satelliten-, Luft- und 3D-Kartendaten gelegt wurden. Produktmanager Bryan Horowitz sagte, Nutzer könnten zu einem beliebigen Ort in der Webversion von Google Earth navigieren, einen Button antippen und eingeben, was dort erscheinen sollte. Google bewarb das Tool als Möglichkeit, „Geschichte zu visualisieren, Immobilienpläne zu erstellen und mehr."

Open-Source-Ermittler Henk van Ess schrieb jedoch auf Substack, dass Google zwei Jahrzehnte lang damit verbracht habe, eine vertrauenswürdige geografische Referenz aufzubauen, nur um dann einen „Button hinzuzufügen, der Dinge erfindet." Seine zentrale Sorge war, dass KI-generierte Bilder die Glaubwürdigkeit und Autorität der Google-Earth-Plattform selbst ausleihen würden – einer Plattform, die von Journalisten, humanitären Organisationen und Regierungsbehörden extensively für Konfliktbeobachtung, Katastropheneinschätzung und geografische Verifizierung genutzt wird.

Umfassende Tests decken Mängel auf

Mehrere Nachrichtenorganisationen und Ermittler demonstrierten schnell das Missbrauchspotenzial des Tools. BBC Verify nutzte das Tool, um Bilder eines eingestürzten Eiffelturms, eines Sinklochs, das die große Pyramide von Gisea verschlang, und russischer Panzer in Kiew zu erzeugen. Van Ess erstellte separat Bilder, die Flüchtlinge an der mexikanischen Grenze und einen Bombenkrater neben einem Krankenhaus in Gaza zeigten – ohne dass diese Sicherheitsvorkehrungen auslösten.

NPR erstellte Bilder, die Irans Kharg-Insel in Flammen und ein überflutetes US-Kapitol zeigten. AFP fabrizierte Bilder einer Explosion in Paris und einer Atomanlage im Iran. Mitarbeiter von 404 Media fügten Farmland Wolkenkratzer hinzu, platzierten eine „Obdachlosenencampment" in Los Angeles und inszenierten einen Protest vor Googles eigenen Büros.

Warum die Glaubwürdigkeit von Satellitenbildern wichtig ist

Open-Source-Analysten vertrauen auf Google-Earth-Bilder, gerade weil authentische Fotografien aus Hunderten von Meilen Höhe kostspielig und technisch schwer zu fälschen sind. Jake Godin, leitender Forscher bei der Ermittlungsgruppe Bellingcat, stellte fest, dass gefälschte Satellitenbilder zuvor aufgetaucht seien – darunter falsche Bilder, die Schäden an einer US-Basis in Bahrain während des US-Israel-Konflikts mit dem Iran vorgaukelten. Die Einführung eines Ein-Klick-Generators macht solche Fälschungen jedoch viel zu leicht in Massenproduktion herstellbar, erklärte er.

Bill Greer, Geodätenanalytiker und Mitbegründer der Nonprofit-Organisation Common Space, bezeichnete die Erosion des Vertrauens in Satellitenbilder als „potenziell besonders schädlich." Die Besorgnis geht über professionelle Ermittler hinaus: Satellitenbilder, die in sozialen Medien geteilt werden, werden von der Öffentlichkeit oft als inhärent vertrauenswürdig behandelt. Eine Flut überzeugender Fälschungen könnte es erschweren, echte Beweise für reale Ereignisse von Fabrikationen zu unterscheiden.

Googles Schutzmaßnahmen erwiesen sich als unzureichend

Google erklärte, dass jedes mit dem Tool erstellte Bild ein SynthID-digitales Wasserzeichen trage, das über die Gemini-App oder die Lens-Funktion in der Suche verifiziert werden könne, und dass die Erstellung von Bildern zu schädlichen Themen nicht zugelassen werde. BBC Verify stellte jedoch anschließend fest, dass sie Gemini dazu bringen konnte, ein gefälschtes Google-Earth-Bild als echt zu bestätigen. SynthID ist Teil einer branchenweiten Initiative der KI-Industrie hin zu Standards für die Herkunftsnachverfolgung von Inhalten. Der Befund unterstrich jedoch die Schwierigkeit, die auf Wasserzeichen basierende Erkennung zuverlässig zu gestalten, wenn die eigenen Verifizierungstools einer Plattform getäuscht werden können.

Auch die Prompt-Filterung der Plattform erwies sich als leicht umgehbar. Während eine Anfrage abgelehnt wurde, einen Galgen zum „Aufhängen von Verrätern" vor dem britischen Parlament zu errichten, passierte eine vage formulierte Version desselben Prompts ohne Probleme.

Google hat die Funktion seitdem entfernt und eingeräumt, dass, obwohl Geodätenprofis das Tool als nützlich empfanden, Nutzer Screenshots generierter Bilder teilten, die gegen die Richtlinien des Unternehmens verstießen. Google erklärte, es werde an der Implementierung stärkerer Schutzmaßnahmen arbeiten, ob das Tool jedoch zurückkehren wird, bleibt eine offene Frage.