Google ha retirado una función recién lanzada de Google Earth después de aproximadamente un día de disponibilidad pública, tras las advertencias de investigadores de desinformación de que permitía a los usuarios superponer escenas falsas convincentes sobre las imágenes satelitales reales de la plataforma.

La función recibió fuertes críticas de múltiples profesionales de inteligencia de código abierto que pidieron su retirada inmediata. Google inicialmente intentó implementar salvaguardas para mantener la herramienta operativa, pero finalmente cedió y la retiró.

Cómo funcionaba la función

La función, llamada "create image", utilizaba el modelo Nano Banana 2 de Google para transformar indicaciones de texto escritas en escenas visuales inventadas superpuestas sobre datos satelitales, aéreos y de mapas 3D genuinos. El gerente de producto Bryan Horowitz dijo que los usuarios podían navegar a cualquier ubicación en la versión web de Google Earth, tocar un botón y escribir lo que quisieran que apareciera allí. Google promovió la herramienta como una forma de "visualizar la historia, crear planos de bienes raíces y más".

Sin embargo, el investigador de código abierto Henk van Ess escribió en Substack que Google había pasado dos décadas construyendo una referencia geográfica confiable, solo para añadir un "botón que inventa cosas". Su principal preocupación era que las imágenes generadas por IA tomarían prestada la credibilidad y autoridad de la propia plataforma de Google Earth, una plataforma ampliamente utilizada por periodistas, organizaciones humanitarias y agencias gubernamentales para el monitoreo de conflictos, la evaluación de desastres y la verificación geográfica.

Pruebas generalizadas revelan defectos

Múltiples organizaciones de noticias e investigadores demostraron rápidamente el potencial de abuso de la herramienta. BBC Verify utilizó la herramienta para generar imágenes de una Torre Eiffel colapsada, un sumidero tragándose la Gran Pirámide de Guiza y tanques rusos en Kiev. Van Ess creó por separado imágenes que representaban refugiados en la frontera mexicana y un cráter de bomba junto a un hospital en Gaza, ninguna de las cuales activó ninguna salvaguarda.

NPR produjo imágenes que mostraban la isla Kharg de Irán en llamas y el Capitolio de EE.UU. inundado. AFP fabricó imágenes de una explosión en París y un sitio nuclear en Irán. El personal de 404 Media añadió rascacielos a tierras agrícolas, plantó un "campamento de personas sin hogar" en Los Ángeles y organizó una protesta frente a las propias oficinas de Google.

Por qué importa la credibilidad de las imágenes satelitales

Los analistas de código abierto confían en las imágenes de Google Earth precisamente porque las fotografías auténticas tomadas desde cientos de millas de altura son costosas y técnicamente difíciles de falsificar. Jake Godin, investigador sénior del grupo de investigación Bellingcat, señaló que anteriormente ya habían aparecido imágenes satelitales falsificadas, incluyendo imágenes falsas que supuestamente mostraban daños en una base de EE.UU. en Baréin durante el conflicto entre EE.UU.-Israel e Irán. Sin embargo, explicó que introducir un generador de un solo clic hace que esas falsificaciones sean demasiado fáciles de producir en masa.

Bill Greer, analista geoespacial y cofundador de la organización sin fines de lucro Common Space, describió la erosión de la confianza en las imágenes satelitales como "potencialmente particularmente dañina". La preocupación se extiende más allá de los investigadores profesionales: las imágenes satelitales compartidas en las redes sociales a menudo son consideradas por el público como inherentemente confiables, y una avalancha de falsificaciones convincentes podría dificultar distinguir la evidencia genuina de eventos reales de las fabricaciones.

Las salvaguardas de Google resultaron insuficientes

Google declaró que cada imagen creada con la herramienta llevaba una marca de agua digital SynthID, verificable a través de la aplicación Gemini o la función Lens en Search, y que no permitía la creación de imágenes relacionadas con temas dañinos. Sin embargo, BBC Verify posteriormente descubrió que podía engañar a Gemini para que confirmara una imagen falsa de Google Earth como genuina. SynthID es parte de un esfuerzo más amplio en la industria de la IA hacia estándares de procedencia de contenido, pero el hallazgo subrayó la dificultad de hacer que la detección basada en marcas de agua sea confiable cuando las propias herramientas de verificación de una plataforma pueden ser engañadas.

El filtrado de indicaciones de la plataforma también resultó fácil de eludir. Si bien rechazó una solicitud de crear una horca para "colgar traidores" frente al Parlamento del Reino Unido, una versión más vaga de la misma indicación pasó sin problemas.

Google ha retirado posteriormente la función, reconociendo que si bien los profesionales geoespaciales encontraron la herramienta útil, los usuarios estaban compartiendo capturas de pantalla de imágenes generadas que violaban las políticas de la empresa. Google afirmó que trabajará en la implementación de salvaguardas más fuertes, aunque si la herramienta volverá sigue siendo una pregunta abierta.