Google a retiré une nouvelle fonctionnalité de Google Earth récemment lancée après environ une journée de disponibilité publique, suite aux avertissements de chercheurs en lutte contre la désinformation indiquant qu'elle permettait aux utilisateurs de superposer des scènes fabriquées convaincantes sur les véritables images satellite de la plateforme.

La fonctionnalité a suscité de vives critiques de la part de plusieurs professionnels du renseignement en source ouverte qui ont demandé son retrait immédiat. Google a d'abord tenté de mettre en place des mesures de protection pour maintenir l'outil en service, mais a fini par céder et l'a retiré.

Fonctionnement de la fonctionnalité

La fonctionnalité, appelée « create image », utilisait le modèle Nano Banana 2 de Google pour transformer des requêtes textuelles en scènes visuelles inventées, superposées à de véritables données satellite, aériennes et cartographiques 3D. Le chef de produit Bryan Horowitz a indiqué que les utilisateurs pouvaient naviguer vers n'importe quel lieu sur la version web de Google Earth, appuyer sur un bouton et saisir tout ce qu'ils voulaient voir apparaître. Google présentait l'outil comme un moyen de « visualiser l'histoire, créer des plans immobiliers et plus encore ».

Cependant, l'enquêteur en source ouverte Henk van Ess a écrit sur Substack que Google avait passé deux décennies à bâtir une référence géographique fiable, pour finalement ajouter un « bouton qui invente des choses ». Sa préoccupation centrale était que les images générées par l'IA emprunteraient la crédibilité et l'autorité de la plateforme Google Earth elle-même — une plateforme largement utilisée par des journalistes, des organisations humanitaires et des agences gouvernementales pour le suivi des conflits, l'évaluation des catastrophes et la vérification géographique.

Des tests généralisés révèlent les failles

Plusieurs organisations d'information et enquêteurs ont rapidement démontré le potentiel d'abus de l'outil. BBC Verify a utilisé l'outil pour générer des images d'une tour Eiffel effondrée, d'un gouffre engloutissant la grande pyramide de Gizeh et de chars russes à Kyiv. Van Ess a séparément créé des images représentant des réfugiés à la frontière mexicaine et un cratère de bombe à côté d'un hôpital à Gaza — sans qu'aucune mesure de protection ne se déclenche.

NPR a produit des images montrant l'île de Kharg en Iran en flammes et le Capitole américain inondé. L'AFP a fabriqué des images d'une explosion à Paris et d'un site nucléaire en Iran. L'équipe de 404 Media a ajouté des gratte-ciels sur des terres agricoles, a installé un « campement de sans-abri » à Los Angeles et a mis en scène une manifestation devant les propres bureaux de Google.

Pourquoi la crédibilité des images satellite importe

Les analystes en source ouverte s'appuient sur les images de Google Earth précisément parce que les photographies authentiques prises à des centaines de miles d'altitude sont coûteuses et techniquement difficiles à falsifier. Jake Godin, chercheur senior au sein du groupe d'investigation Bellingcat, a noté que des images satellite falsifiées étaient déjà apparues — notamment de fausses images prétendant montrer des dégâts sur une base américaine à Bahreïn durant le conflit entre les États-Unis, Israël et l'Iran. Cependant, a-t-il expliqué, l'introduction d'un générateur en un clic rend ces faux beaucoup trop faciles à produire en masse.

Bill Greer, analyste géospatial et cofondateur de l'organisation à but non lucratif Common Space, a qualifié l'érosion de la confiance dans les images satellite de « potentiellement particulièrement dommageable ». La préoccupation va au-delà des enquêteurs professionnels : les images satellite partagées sur les réseaux sociaux sont souvent considérées par le public comme intrinsèquement fiables, et un déluge de faux convaincants pourrait rendre plus difficile la distinction entre les preuves authentiques d'événements réels et les fabrications.

Les mesures de protection de Google se sont révélées insuffisantes

Google a déclaré que chaque image créée avec l'outil comportait un filigrane numérique SynthID, vérifiable via l'application Gemini ou la fonctionnalité Lens dans Search, et qu'elle n'autorisait pas la création d'images liées à des sujets nuisibles. Cependant, BBC Verify a par la suite découvert qu'il était possible de tromper Gemini en lui faisant confirmer qu'une fausse image Google Earth était authentique. SynthID s'inscrit dans une initiative plus large de l'industrie de l'IA vers des normes de traçabilité du contenu, mais cette découverte a souligné la difficulté de rendre la détection par filigrane fiable lorsque les propres outils de vérification d'une plateforme peuvent être induits en erreur.

Le filtrage des requêtes de la plateforme s'est également avéré facilement contournable. S'il a rejeté une demande de construction d'une potence pour « pendre des traîtres » devant le Parlement britannique, une version plus vague de la même requête est passée sans problème.

Google a depuis retiré la fonctionnalité, reconnaissant que si les professionnels géospatiaux trouvaient l'outil utile, des utilisateurs partageaient des captures d'écran d'images générées qui violaient les règles de l'entreprise. Google a déclaré qu'il travaillera à la mise en place de mesures de protection plus robustes, bien que la question de savoir si l'outil reviendra reste ouverte.