Google retiró una función de inteligencia artificial recién lanzada de Google Earth después de que usuarios demostraran que podía producir imágenes satelitales muy realistas pero falsificadas de ubicaciones reales, lo que marca una de las reversions de producto más rápidas de la empresa en los últimos tiempos.

La retirada se produjo menos de 24 horas después del debut público de la función. Los usuarios comenzaron rápidamente a compartir imágenes satelitales generadas por IA que mostraban desde instalaciones militares hasta zonas de desastre, lo que encendió las alarmas de que la herramienta podía ser explotada para difundir desinformación o distorsionar la percepción pública.

La función estaba integrada directamente en Google Earth y permitía a los usuarios generar alteraciones fotorrealistas de ubicaciones existentes mediante indicaciones de texto. En lugar de crear paisajes ficticios desde cero, el sistema transformaba imágenes satelitales reales en escenarios visuales completamente nuevos que se parecían mucho a la fotografía aérea auténtica.

En cuestión de horas tras su lanzamiento, los usuarios demostraron cómo la herramienta podía fabricar imágenes que mostraban daños por conflictos, infraestructura militar, campos de refugiados y desastres ambientales. Aunque las imágenes generadas llevaban marcas de agua de IA y no se incorporaron a la capa satelital pública oficial de Google, las capturas de pantalla circularon rápidamente por las redes sociales, lo que alimentó la preocupación de que el contenido pudiera ser despojado de contexto y confundido con fotografías satelitales genuinas.

La cuenta de Coin Bureau en X amplificó la historia, atrayendo atención adicional tanto de la comunidad tecnológica como de la cripto. La publicación puede encontrarse en x.com/coinbureau/status/2083412734881022176.

Posteriormente, Google confirmó la retirada y dijo que estaba implementando salvaguardas más fuertes.

En una declaración pública, la empresa reconoció el alto nivel de confianza que los usuarios depositan en Google Earth como una representación precisa del mundo físico. Google señaló que, aunque había observado aplicaciones valiosas entre profesionales geoespaciales, también había visto ejemplos de imágenes generadas que parecían violar las políticas de la empresa. Por ello, decidió suspender temporalmente la función mientras desarrollaba medidas de protección adicionales.

Investigadores de ciberseguridad, periodistas e investigadores de inteligencia de fuentes abiertas (OSINT) estuvieron entre los primeros en expresar preocupación, advirtiendo que incorporar IA generativa en una de las plataformas de mapas más confiables del mundo podría debilitar la confianza en los datos geoespaciales.

Una plataforma de confianza bajo presión

Las preocupaciones en torno a Google Earth se distinguen de muchas controversias anteriores sobre IA por la larga reputación de precisión de la plataforma. Durante años, periodistas, organizaciones humanitarias, investigadores ambientales, instituciones académicas, gobiernos e investigadores OSINT han recurrido a Google Earth para analizar ঘটনios del mundo real.

Las imágenes satelitales de la plataforma han respaldado investigaciones sobre desastres naturales, conflictos armados, desarrollo de infraestructura, cambio ambiental y crisis humanitarias. Durante la guerra entre Rusia y Ucrania, por ejemplo, las imágenes satelitales comerciales y plataformas como Google Earth se convirtieron en herramientas esenciales para periodistas y analistas que verificaban movimientos de tropas, evaluaciones de daños y desarrollos en el campo de batalla casi en tiempo real. Debido a esa reputación, los expertos sostienen que introducir manipulación visual generada por IA en un entorno tan confiable exige salvaguardas particularmente rigurosas.

Los especialistas en inteligencia de fuentes abiertas dependen en gran medida de imágenes satelitales auténticas para verificar acontecimientos en todo el mundo. Al comparar imágenes históricas, características geográficas, cambios en la infraestructura y condiciones ambientales, los investigadores reconstruyen cronologías o confirman reportes provenientes de zonas de conflicto y áreas afectadas por desastres. Si imágenes fabricadas y realistas comienzan a circular ampliamente, incluso fuera de la plataforma oficial de Google, esos procesos de verificación podrían volverse considerablemente más difíciles.

Los investigadores de seguridad han advertido que las falsas imágenes satelitales convincentes podrían utilizarse en campañas de desinformación, manipulación de mercados financieros, propaganda geopolítica o esfuerzos de desinformación en redes sociales. Imágenes falsas que muestren actividad militar, daños a infraestructura, accidentes industriales o desastres ambientales podrían difundirse rápidamente antes de que sea posible una verificación independiente.

Las limitaciones de las marcas de agua

Aunque Google enfatizó que las imágenes generadas por IA estaban claramente marcadas con marcas de agua y nunca aparecieron en la experiencia central de Google Earth, los críticos señalaron que las capturas de pantalla compartidas fuera de la plataforma podían perder información contextual crítica. Las imágenes pueden recortarse, comprimirse, editarse o redistribuirse en múltiples plataformas, lo que dificulta que los espectadores determinen su fuente original. Google ha desarrollado por separado SynthID, una tecnología de marca de agua imperceptible diseñada para identificar imágenes y audio generados por IA, pero sigue siendo una cuestión abierta si dichas marcas sobreviven a formas comunes de manipulación como el recorte o la recodificación.

La Coalition for Content Provenance and Authenticity (C2PA), cuyos miembros incluyen a Google, Adobe, Microsoft y otras grandes empresas tecnológicas, ha estado desarrollando estándares técnicos para adjuntar datos de procedencia firmados criptográficamente a los medios digitales. Sin embargo, la adopción de esos estándares sigue siendo desigual entre plataformas, y los críticos señalan que los metadatos de procedencia pueden eliminarse o ignorarse cuando las imágenes circulan mediante capturas de pantalla y republicaciones.

Muchos expertos creen que los futuros sistemas de IA requerirán múltiples capas de protección, incluidas controles de acceso más estrictos, divulgaciones contextuales, restricciones de uso, preservación de metadatos y tecnologías de detección más avanzadas.

La rápida reversión subraya el desafío cada vez más complejo al que se enfrentan las empresas tecnológicas a medida que la IA generativa se vuelve capaz de producir contenido visual muy convincente. Los modelos de IA modernos ya pueden crear fotografías, videos, grabaciones de audio e ilustraciones realistas que a menudo son difíciles de distinguir de los medios auténticos. Si bien estas capacidades han creado oportunidades significativas en diseño, entretenimiento, educación, ingeniería e investigación científica, también han introducido nuevos riesgos relacionados con la desinformación y la manipulación digital.

Equilibrar innovación y responsabilidad

La controversia también refleja un debate creciente sobre el equilibrio entre innovación y responsabilidad. Muchos profesionales geoespaciales recibieron inicialmente con agrado la función porque ofrecía casos de uso legítimos. Arquitectos, urbanistas, investigadores ambientales, agencias de gestión de emergencias y desarrolladores de infraestructura podrían usar potencialmente visualizaciones generadas por IA para modelar proyectos de construcción propuestos, simular escenarios ambientales o ilustrar conceptos de planificación futura.

Sin embargo, esa misma flexibilidad que permite aplicaciones productivas también crea oportunidades de uso indebido. A diferencia de las plataformas de generación de imágenes puramente creativas, Google Earth ocupa una posición única como herramienta de referencia ampliamente confiable. Millones de usuarios dependen de la plataforma para observar condiciones geográficas reales y no escenarios imaginados.

Las empresas tecnológicas se enfrentan cada vez más a decisiones difíciles sobre cómo maximizar la innovación y, al mismo tiempo, minimizar consecuencias no previstas. El desafío es especialmente agudo para productos asociados con información autorizada.

Implicaciones más amplias para la industria

El incidente ha intensificado las discusiones sobre la autenticidad en la industria tecnológica en general. Durante el último año, las principales empresas tecnológicas han introducido numerosas funciones impulsadas por IA en motores de búsqueda, software de productividad, plataformas de redes sociales, servicios de mapas y aplicaciones creativas. Al mismo tiempo, reguladores e investigadores han pedido estándares de transparencia más sólidos para el contenido generado por IA.

La Ley de IA de la Unión Europea, que entró en vigor en 2024, incluye obligaciones para que los proveedores de ciertos sistemas de IA garanticen que el contenido generado por IA sea detectable y esté etiquetado, disposiciones que son directamente relevantes para casos como la función de Google Earth. Otras jurisdicciones, incluidos los Estados Unidos, están explorando requisitos de transparencia comparables para los medios sintéticos.

Varios gobiernos están evaluando políticas relacionadas con el etiquetado de IA, la divulgación de medios sintéticos, los requisitos de marcas de agua y la rendición de cuentas por contenido digital engañoso. El caso de Google Earth podría convertirse en otro ejemplo que alimente esas discusiones normativas en curso.

Los investigadores de inteligencia artificial señalan que el desafío va mucho más allá de las imágenes satelitales. A medida que los modelos de IA continúan mejorando, preocupaciones similares se aplican a la fotografía de noticias, documentos financieros, ilustraciones científicas, imágenes médicas y otras formas de información visual donde la autenticidad es esencial.

Qué sigue

Para Google, la rápida retirada demuestra la voluntad de responder con rapidez cuando surgen riesgos inesperados. Aunque la empresa ha invertido fuertemente en inteligencia artificial en todos sus productos, también ha destacado la importancia de desplegar la IA de manera responsable. La decisión de suspender la función sugiere que Google pretende reforzar las salvaguardas antes de considerar cualquier relanzamiento futuro.

Los analistas del sector creen que esas salvaguardas podrían incluir filtrado de prompts más estricto, restricciones ampliadas de contenido, sistemas de marcas de agua mejorados, protección de metadatos reforzada, requisitos más estrictos de verificación de usuarios o limitaciones para generar imágenes que involucren ubicaciones sensibles. La empresa no ha anunciado cuándo, o si, la función regresará.

El episodio también sirve como recordatorio de que incluso las tecnologías de IA muy avanzadas siguen siendo obras en progreso. A pesar de las mejoras notables en la calidad de generación de imágenes, las empresas continúan aprendiendo cómo interactúan los usuarios con estos sistemas en entornos reales. Las formas inesperadas de uso indebido suelen surgir solo después de que los productos se hacen públicos, lo que obliga a los desarrolladores a ajustar políticas y protecciones técnicas.

Para periodistas, investigadores e investigadores, el episodio refuerza la importancia de verificar la evidencia visual antes de sacar conclusiones. A medida que la IA generativa se vuelve cada vez más capaz de producir contenido fotorrealista, los métodos tradicionales de verificación pueden requerir capas adicionales de análisis, incluida la revisión de metadatos, la comparación con imágenes independientes, técnicas de geolocalización y la confirmación de múltiples fuentes confiables.

En última instancia, la decisión de Google destaca la creciente responsabilidad que enfrentan las empresas tecnológicas a medida que la inteligencia artificial se integra en productos de los que dependen millones de personas en todo el mundo. El éxito futuro de las herramientas geoespaciales impulsadas por IA probablemente dependerá no solo de la capacidad técnica, sino también de preservar la confianza que los usuarios depositan en plataformas diseñadas para documentar el mundo real.