Google a retiré de Google Earth une nouvelle fonctionnalité d’intelligence artificielle tout juste lancée après que des utilisateurs ont démontré qu’elle pouvait produire des images satellites très réalistes mais fabriquées de lieux réels, marquant l’un des revirements produit les plus rapides de l’entreprise depuis longtemps.

Ce retour en arrière est intervenu moins de 24 heures après le lancement public de la fonctionnalité. Les utilisateurs ont rapidement commencé à partager des images satellites générées par IA montrant aussi bien des installations militaires que des zones sinistrées, faisant craindre que l’outil puisse être exploité pour diffuser de la désinformation ou fausser la perception du public.

La fonctionnalité était intégrée directement à Google Earth et permettait de générer, à partir de simples invites textuelles, des modifications photoréalistes de lieux existants. Plutôt que de créer des paysages fictifs à partir de zéro, le système transformait de véritables images satellites en scénarios visuels entièrement nouveaux, très proches de la photographie aérienne authentique.

En quelques heures après son lancement, des utilisateurs ont montré que l’outil pouvait fabriquer des images illustrant des dégâts liés à des conflits, des infrastructures militaires, des camps de réfugiés et des catastrophes environnementales. Bien que les images générées comportaient des filigranes d’IA et n’aient pas été intégrées à la couche satellitaire publique officielle de Google, des captures d’écran se sont rapidement propagées sur les réseaux sociaux, alimentant les inquiétudes selon lesquelles ce contenu pourrait être sorti de son contexte et pris pour de véritables photographies satellites.

Le compte Coin Bureau sur X a amplifié l’histoire, attirant l’attention supplémentaire des communautés technologique et crypto. La publication peut être consultée à x.com/coinbureau/status/2083412734881022176.

Google a ensuite confirmé le retour en arrière et indiqué mettre en place des protections renforcées.

Dans un communiqué public, l’entreprise a reconnu le niveau élevé de confiance que les utilisateurs accordent à Google Earth comme représentation fidèle du monde physique. Google a indiqué avoir observé des usages utiles de la technologie parmi les professionnels de la géospatiale, mais avoir aussi constaté des exemples d’images générées semblant enfreindre les règles de l’entreprise. Elle a donc décidé de suspendre temporairement la fonctionnalité pendant le développement de mesures de protection supplémentaires.

Des chercheurs en cybersécurité, des journalistes et des enquêteurs en renseignement en sources ouvertes (OSINT) ont été parmi les premiers à exprimer leurs inquiétudes, avertissant que l’intégration de l’IA générative dans l’une des plateformes cartographiques les plus fiables au monde pourrait miner la confiance dans les données géospatiales.

Une plateforme de confiance sous pression

Les inquiétudes autour de Google Earth se distinguent de nombreuses controverses antérieures liées à l’IA en raison de la réputation de longue date de la plateforme en matière de précision. Depuis des années, des journalistes, des organisations humanitaires, des chercheurs en environnement, des institutions universitaires, des gouvernements et des enquêteurs OSINT s’appuient sur Google Earth pour analyser des événements du monde réel.

Les images satellites de la plateforme ont souvent soutenu des enquêtes sur les catastrophes naturelles, les conflits armés, le développement des infrastructures, les changements environnementaux et les crises humanitaires. Pendant la guerre Russie-Ukraine, par exemple, les images satellites commerciales et des plateformes comme Google Earth sont devenues des outils essentiels pour les journalistes et les analystes vérifiant les mouvements de troupes, les évaluations des dégâts et l’évolution des combats en temps quasi réel. En raison de cette réputation, les experts estiment que l’introduction d’une manipulation visuelle générée par IA dans un environnement aussi fiable exige des garanties particulièrement rigoureuses.

Les spécialistes du renseignement en sources ouvertes dépendent fortement d’images satellites authentiques pour vérifier les événements survenant dans le monde entier. En comparant des images historiques, des caractéristiques géographiques, des changements d’infrastructures et des conditions environnementales, les enquêteurs reconstituent souvent des chronologies ou confirment des informations provenant de zones de conflit et de zones sinistrées. Si des images fabriquées mais réalistes commencent à circuler largement — même en dehors de la plateforme officielle de Google — ces processus de vérification pourraient devenir beaucoup plus difficiles.

Les chercheurs en sécurité ont averti que des fausses images satellites convaincantes pourraient être utilisées dans des campagnes de désinformation, de manipulation des marchés financiers, de propagande géopolitique ou de désinformation sur les réseaux sociaux. Des fausses images montrant une activité militaire, des dégâts d’infrastructures, des accidents industriels ou des catastrophes environnementales pourraient se diffuser rapidement avant qu’une vérification indépendante ne soit possible.

Les limites des filigranes

Bien que Google ait souligné que les images générées par IA étaient clairement filigranées et n’apparaissaient jamais dans l’expérience principale de Google Earth, des critiques ont noté que des captures d’écran partagées hors de la plateforme pouvaient perdre des informations contextuelles essentielles. Les images peuvent être recadrées, compressées, modifiées ou rediffusées sur plusieurs plateformes, ce qui complique l’identification de leur source d’origine pour les utilisateurs. Google a par ailleurs développé SynthID, une technologie de filigrane imperceptible conçue pour identifier les images et l’audio générés par IA, mais la question demeure de savoir si ces filigranes résistent à des manipulations courantes comme le recadrage ou le réencodage.

La Coalition for Content Provenance and Authenticity (C2PA), dont font partie Google, Adobe, Microsoft et d’autres grandes entreprises technologiques, développe des normes techniques pour associer des données de provenance signées cryptographiquement aux contenus numériques. Toutefois, l’adoption de ces normes reste inégale selon les plateformes, et des critiques soulignent que les métadonnées de provenance peuvent être supprimées ou ignorées lorsque les images circulent sous forme de captures d’écran et de republications.

De nombreux experts estiment que les futurs systèmes d’IA nécessiteront plusieurs niveaux de protection, notamment des contrôles d’accès renforcés, des divulgations contextuelles, des restrictions d’utilisation, la préservation des métadonnées et des technologies de détection plus avancées.

Ce revirement rapide souligne le défi de plus en plus complexe auquel sont confrontées les entreprises technologiques à mesure que l’IA générative devient capable de produire des contenus visuels très convaincants. Les modèles d’IA modernes peuvent désormais créer des photographies, vidéos, enregistrements audio et illustrations réalistes, souvent difficiles à distinguer de médias authentiques. Si ces capacités ont ouvert d’importantes opportunités dans le design, le divertissement, l’éducation, l’ingénierie et la recherche scientifique, elles ont aussi introduit de nouveaux risques liés à la désinformation et à la manipulation numérique.

Trouver l’équilibre entre innovation et responsabilité

La controverse reflète également un débat croissant sur l’équilibre entre innovation et responsabilité. De nombreux professionnels de la géospatiale avaient initialement accueilli favorablement la fonctionnalité, car elle offrait des usages légitimes. Des architectes, urbanistes, chercheurs en environnement, agences de gestion d’urgence et développeurs d’infrastructures pourraient potentiellement utiliser des visualisations générées par IA pour modéliser des projets de construction, simuler des scénarios environnementaux ou illustrer des concepts de planification future.

Cependant, la même flexibilité qui permet des usages productifs crée aussi des possibilités de سوء usage. Contrairement aux plateformes de génération d’images purement créatives, Google Earth occupe une position unique en tant qu’outil de référence largement fiable. Des millions d’utilisateurs dépendent de la plateforme pour observer des conditions géographiques réelles, et non des scénarios imaginaires.

Les entreprises technologiques sont de plus en plus confrontées à des décisions difficiles sur la manière de maximiser l’innovation tout en minimisant les conséquences involontaires. Le défi est particulièrement aigu pour les produits associés à une information faisant autorité.

Répercussions plus larges sur le secteur

L’incident a intensifié les discussions sur l’authenticité dans l’ensemble du secteur technologique. Au cours de l’année écoulée, de grandes entreprises technologiques ont introduit de nombreuses fonctionnalités alimentées par l’IA dans les moteurs de recherche, les logiciels de productivité, les plateformes de réseaux sociaux, les services de cartographie et les applications créatives. Dans le même temps, les régulateurs et les chercheurs ont appelé à des normes de transparence plus strictes pour les contenus générés par IA.

Le AI Act de l’Union européenne, entré en vigueur en 2024, prévoit des obligations pour certains fournisseurs de systèmes d’IA afin de garantir que les contenus générés par IA soient détectables et étiquetés, des dispositions directement pertinentes pour des cas comme la fonctionnalité Google Earth. D’autres juridictions, y compris les États-Unis, examinent des exigences de transparence comparables pour les médias synthétiques.

Plusieurs gouvernements évaluent des politiques relatives à l’étiquetage de l’IA, à la divulgation des médias synthétiques, aux exigences de filigrane et à la responsabilité en cas de contenus numériques trompeurs. Le cas Google Earth pourrait devenir un autre exemple alimentant ces discussions politiques en cours.

Les chercheurs en intelligence artificielle notent que le défi va bien au-delà des images satellites. À mesure que les modèles d’IA continuent de s’améliorer, des inquiétudes similaires s’appliquent à la photographie de presse, aux documents financiers, aux illustrations scientifiques, à l’imagerie médicale et à d’autres formes d’informations visuelles où l’authenticité est essentielle.

Et maintenant ?

Pour Google, ce retour en arrière rapide montre une volonté de réagir rapidement lorsque des risques inattendus apparaissent. Bien que l’entreprise ait massivement investi dans l’intelligence artificielle à travers ses produits, elle a également souligné l’importance de déployer l’IA de manière responsable. La décision de suspendre la fonctionnalité suggère que Google entend renforcer les protections avant d’envisager un éventuel relancement.

Des analystes du secteur estiment que ces protections pourraient inclure un filtrage plus strict des requêtes, des restrictions de contenu élargies, des systèmes de filigrane améliorés, une meilleure protection des métadonnées, des exigences de vérification des utilisateurs plus fortes ou des limitations sur la génération d’images impliquant des lieux sensibles. L’entreprise n’a pas annoncé quand, ni même si, la fonctionnalité sera rétablie.

L’épisode rappelle également que même les technologies d’IA les plus avancées restent en cours de développement. Malgré des améliorations remarquables dans la qualité de génération d’images, les entreprises continuent d’apprendre comment les utilisateurs interagissent avec ces systèmes dans des environnements réels. Des formes de سوء usage inattendues n’apparaissent souvent qu’après la mise à disposition publique des produits, obligeant les développeurs à ajuster leurs politiques et leurs protections techniques.

Pour les journalistes, chercheurs et enquêteurs, l’incident rappelle l’importance de vérifier les preuves visuelles avant de tirer des conclusions. À mesure que l’IA générative devient de plus en plus capable de produire des contenus photoréalistes, les méthodes de vérification traditionnelles pourraient nécessiter des niveaux d’analyse supplémentaires, notamment l’examen des métadonnées, la comparaison avec des images indépendantes, des techniques de géolocalisation et la confirmation par plusieurs sources fiables.

En définitive, la décision de Google met en lumière la responsabilité croissante des entreprises technologiques à mesure que l’intelligence artificielle s’intègre dans des produits utilisés par des millions de personnes dans le monde. Le succès futur des outils géospatiaux alimentés par l’IA dépendra probablement non seulement de leurs capacités techniques, mais aussi de la préservation de la confiance que les utilisateurs accordent aux plateformes conçues pour documenter le monde réel.