Google ha rimosso una nuova funzionalità di Google Earth appena lanciata dopo circa un giorno di disponibilità pubblica, in seguito agli avvertimenti dei ricercatori sulla disinformazione che segnalavano come essa consentisse agli utenti di sovrapporre scene fittizie convincenti alle vere immagini satellitari della piattaforma.

La funzionalità ha suscitato aspre critiche da parte di numerosi professionisti dell'intelligence open-source che ne hanno chiesto l'immediata rimozione. Google ha inizialmente tentato di implementare misure di salvaguardia per mantenere operativo lo strumento, ma alla fine ha ceduto e lo ha ritirato.

Come Funzionava la Funzionalità

La funzionalità, chiamata "create image," utilizzava il modello Nano Banana 2 di Google per trasformare prompt di testo digitato in scene visive inventate sovrapposte a genuini dati satellitari, aerei e di mappe 3D. Il product manager Bryan Horowitz ha dichiarato che gli utenti potevano navigare verso qualsiasi località sulla versione web di Google Earth, toccare un pulsante e digitare qualsiasi cosa volessero far apparire. Google ha presentato lo strumento come un modo per "visualizzare la storia, creare piani immobiliari e altro ancora."

Tuttavia, l'investigatore open-source Henk van Ess ha scritto su Substack che Google aveva trascorso due decenni a costruire un riferimento geografico affidabile, per poi aggiungere un "pulsante che inventa le cose." La sua preoccupazione centrale era che le immagini generate dall'AI avrebbero preso in prestito la credibilità e l'autorità della piattaforma Google Earth stessa — una piattaforma ampiamente utilizzata da giornalisti, organizzazioni umanitarie e agenzie governative per il monitoraggio dei conflitti, la valutazione dei disastri e la verifica geografica.

Test Diffusi Rivelano le Criticità

Molteplici organizzazioni giornalistiche e investigatori hanno rapidamente dimostrato il potenziale di abuso dello strumento. BBC Verify ha utilizzato lo strumento per generare immagini della Torre Eiffel crollata, di una dolina che inghiottiva la Grande Piramide di Giza e di carri armati russi a Kyiv. Van Ess ha separatamente creato immagini che ritraevano rifugiati al confine messicano e un cratere di bomba accanto a un ospedale a Gaza — nessuna delle quali ha attivato alcuna misura di sicurezza.

NPR ha prodotto immagini che mostravano l'Isola di Kharg dell'Iran in fiamme e il Campidoglio degli Stati Uniti allagato. AFP ha fabbricato immagini di un'esplosione a Parigi e di un sito nucleare in Iran. Il personale di 404 Media ha aggiunto grattacieli a terre agricole, ha piazzato un "accampamento di senzatetto" a Los Angeles e ha inscenato una protesta fuori dagli uffici stessi di Google.

Perché la Credibilità delle Immagini Satellitari è Importante

Gli analisti open-source si affidano alle immagini di Google Earth proprio perché le fotografie autentiche scattate da centinaia di miglia di altezza sono costose e tecnicamente difficili da falsificare. Jake Godin, ricercatore senior del gruppo investigativo Bellingcat, ha osservato che in passato erano già comparse immagini satellitari contraffatte — inclusa una falsa immagine che presumibilmente mostrava danni a una base statunitense in Bahrain durante il conflitto USA-Israele con l'Iran. Tuttavia, ha spiegato che l'introduzione di un generatore con un clic rende i falsi fin troppo facili da produrre in massa.

Bill Greer, analista geospaziale e cofondatore dell'organizzazione no profit Common Space, ha descritto l'erosione della fiducia nelle immagini satellitari come "potenzialmente particolarmente dannosa." La preoccupazione va oltre gli investigatori professionisti: le immagini satellitari condivise sui social media sono spesso considerate dal pubblico come intrinsecamente affidabili, e un'ondata di falsi convincenti potrebbe rendere più difficile distinguere le prove autentiche di eventi reali dalle contraffazioni.

Le Misure di Sicurezza di Google si Rivelano Insufficienti

Google ha dichiarato che ogni immagine creata con lo strumento era dotata di un watermark digitale SynthID, verificabile tramite l'app Gemini o la funzione Lens in Ricerca, e che non consentiva la creazione di immagini relative ad argomenti dannosi. Tuttavia, BBC Verify ha successivamente scoperto di poter ingannare Gemini inducendolo a confermare come genuina un'immagine falsa di Google Earth. SynthID fa parte di un'iniziativa più ampia nell'industria dell'AI verso standard di provenienza dei contenuti, ma la scoperta ha sottolineato la difficoltà di rendere affidabile il rilevamento basato sui watermark quando gli stessi strumenti di verifica di una piattaforma possono essere ingannati.

Anche il filtro dei prompt della piattaforma si è rivelato facilmente aggirabile. Sebbene abbia respinto una richiesta di costruire una forca per "impiccare i traditori" fuori dal Parlamento britannico, una versione più vaga dello stesso prompt è passata senza problemi.

Google ha da allora rimosso la funzionalità, riconoscendo che, sebbene i professionisti geospaziali trovassero utile lo strumento, gli utenti condividevano screenshot di immagini generate che violavano le policy dell'azienda. Google ha dichiarato che lavorerà all'implementazione di misure di salvaguardia più rigorose, sebbene la questione se lo strumento tornerà o meno rimanga aperta.