Google Earth tuvo IA para editar mapas de satélite y la quitaron al día siguiente

Google Earth ha pasado dos décadas convirtiéndose en la referencia visual por defecto para cualquiera que intente verificar cómo es realmente el mundo físico. Periodistas lo usan para documentar zonas de conflicto. Investigadores de derechos humanos lo utilizan para rastrear centros de detención. Inspectores de la ONU lo consultan desde la seguridad de una oficina. Google brevemente le agregó algo nuevo: un generador de imágenes con IA conectado directamente al mapa satelital.

La herramienta, construida sobre Nano Banana 2, el modelo de generación de imágenes de Google, funcionó según lo anunciado. Los usuarios escribían un mensaje de texto — “muestra Pompeya antes de la erupción” o “convierte esta costa en una infografía” — y la IA superponía imágenes generadas sobre las coordenadas reales correspondientes. Los casos de uso legítimos eran fáciles de imaginar. Los peligrosos resultaron igual de fáciles de ejecutar.

Henk van Ess, un periodista de investigación, fue uno de los primeros en documentar el problema. A las pocas horas del lanzamiento, generó una planta nuclear ficticia sobre una ubicación en Irán. El resultado fue lo suficientemente convincente como para ilustrar el riesgo. Más preocupante fue lo que sucedió cuando probó la protección incorporada: Google había incrustado marcas de agua SynthID — su capa de autenticación de IA — en cada imagen generada. Van Ess la eludió fotografiando su pantalla en lugar de tomar una captura. Herramientas de detección de IA de terceros calificaron la imagen resultante con solo un 1% de probabilidad de haber sido generada por IA.

La defensa de Google fue técnicamente precisa, pero prácticamente insuficiente. La empresa señaló que las imágenes generadas “no aparecían en la experiencia principal de Google Earth para que otros las vieran” — eran específicas de la sesión, visibles solo para el creador. Esa distinción se derrumba cuando fotografías la pantalla y compartes el resultado. Una imagen satelital fabricada de una instalación sensible, circulando con solo un epígrafe, es indistinguible de una creada para engañar.

Existe una tensión estructural aquí que las barreras de seguridad más fuertes quizás no resuelvan por completo. La misma capacidad que hace útil la generación de imágenes con IA también la vuelve peligrosa cuando la fuente subyacente son datos satelitales de confianza. Esa confianza depende del supuesto de que lo que Google Earth muestra refleja la realidad física. En el momento en que el contenido generado puede superponerse a coordenadas reales — y la capa de autenticación puede eludirse con una cámara — ese supuesto tiene una grieta que no se cierra cuando la función se desactiva.

La función se retiró el 31 de julio, menos de 24 horas después del lanzamiento. Google reconoció haber visto “capturas de pantalla de imágenes generadas que parecen violar nuestras políticas” y se comprometió a implementar “barreras de seguridad más fuertes” antes de cualquier relanzamiento. No se dio un cronograma. El momento añade una capa más: a partir del 2 de agosto, las disposiciones de aplicación completa de la Ley de IA de la UE están en vigor en toda Europa, haciendo obligatorio el etiquetado de contenido generado por IA que pueda engañar a los usuarios — incluyendo, precisamente, imágenes sintéticas incrustadas en fuentes de información confiables.

Etiquetas: Google, ia, deepfakes, Google Earth, imágenes satelitales, desinformación