La desventura de la IA de Google Earth duró solo un día. Fue una historia de ignorancia peligrosa.

      Los gigantes tecnológicos claramente no están leyendo la sala, o simplemente se están moviendo más rápido de lo que deberían cuando se trata de la implementación de la IA. Google ya ha integrado su IA Gemini en cada rincón de su pila de software, desde Android hasta herramientas de productividad diarias como Gmail, que son utilizadas por cientos de millones de usuarios cada día. La IA está en todas partes. No toda es mala, ojo. Pero en algunos lugares, simplemente se siente forzada.

      En su último experimento de "IA-ficación", la compañía apuntó a Google Earth. La idea era permitir que la audiencia utilizara su generador de imágenes IA Nano Banana 2 y creara imágenes que pudieran ser colocadas en la vista del mapa. En teoría, es una idea genial. ¿Cómo se vería el Coliseo de Roma en tu vecindario urbano? Sí, cosas divertidas como esa.

      ¿Qué pasaría si colocara un reactor nuclear en el mapa de un estado enemigo, o un tanque en el suelo de una nación devastada por la guerra? Bueno, ese es un problema, y esto es exactamente lo que Google Earth produjo sin ninguna inhibición.

      ¿Cuál es el gran alboroto, eh?

      Bien, volvamos a los orígenes y las buenas intenciones primero. Esto es lo que Google tenía en mente:

      “Por primera vez, puedes generar imágenes personalizadas utilizando las imágenes satelitales, aéreas y en 3D de Google Earth junto con Nano Banana, que crea conceptos basados en el mundo real. Simplemente haz zoom en un lugar en Google Earth en la web, toca 'crear imagen' y escribe lo que quieras ver.”

      Aquí está el problema. La IA no siempre es un invitado bienvenido.

      De hecho, la IA de Google ha sido mal utilizada de numerosas maneras por múltiples actores maliciosos en un pasado no muy lejano. En una divulgación presentada ante la Comisión de eSafety de Australia, se informó que Gemini IA fue abusada para crear material de terrorismo y abuso infantil generado por IA. A principios de este año, la unidad de Cloud de Google divulgó el uso de Gemini por parte de cibercriminales involucrados en operaciones de malware y vigilancia.

      Desafío 1: Paraíso de Mascotas o Hábitat 🐶🐱 En Google Earth: haz zoom en un lugar y toca 'crear imagen'. Luego pega este aviso, completa los espacios en blanco y presiona enter. “Adapta este espacio como un lujoso resort animal de cinco estrellas con un gran [Característica Principal]. La estructura está construida de… pic.twitter.com/gYlWTmOLzy— Google Earth (@googleearth) 30 de julio de 2026

      Meramente unos días atrás, Google presentó una demanda contra una red vinculada a China por el uso de Gemini para lanzar campañas de phishing a gran escala. Incluso para un usuario regular, es fácil engañar al generador de imágenes IA de Google para crear algo tan perturbador como un Spongebob nazi. La situación con el modelo de generación de imágenes de ChatGPT de OpenAI no es muy diferente.

      Google voló peligrosamente cerca del proverbial Sol. El último parque de diversiones de IA para la compañía fue Google Earth, y la mala aventura duró apenas un día. Henk van Ess, un experto en investigación en línea, probó la nueva función de IA y rápidamente la destrozó. Esto es lo que escribió en su boletín, Digital Digging:

      “Esta noche escribí solo una oración en Google Earth y puse refugiados cerca de la frontera mexicana. Luego planté una planta nuclear en Irán. Luego puse un accidente fatal en una calle de Ámsterdam. Las propias imágenes satelitales de Google debajo de los tres. ¿Qué demonios está haciendo Google?”

      Tantas capas

      Ese no fue el final del problema. El motor Nano Banana simplemente cumplió con las problemáticas solicitudes de generación de imágenes IA sin ninguna contrarrespuesta. “Nada fue rechazado, nada fue suavizado, y nada sugirió que intentara un aviso diferente,” escribió van Ess.

      ‼️ ÚLTIMA HORA: Google está retirando la generación de imágenes Nano Banana de Google Earth un día después de su lanzamiento. Los usuarios crearon avisos para generar imágenes que mostraban un avión chocando contra un rascacielos de Manhattan, un bombardeo en Moscú, una planta nuclear en Irán, refugiados en la frontera entre EE. UU. y México y una bomba… https://t.co/q9lNNaazD3 pic.twitter.com/nyuiKiQ2Qi— International Cyber Digest (@IntCyberDigest) 31 de julio de 2026

      Demos un respiro a Google aquí. Los generadores de imágenes IA generalmente se centran en evitar cosas como imágenes sexualizadas, armas, estereotipos racistas y otras solicitudes claramente malas. No puede manejar cosas que parecen normales, pero pueden provocar una tormenta en las relaciones internacionales. Colocar un reactor nuclear en el mapa de Irán, o poner un cráter de bomba en un hospital de Gaza, son dos ejemplos de “fallos inocentes”, si puedo decirlo de esa manera.

      Pero eso no es el final de la supervisión de IA de Google. Las imágenes generadas por IA en Google Earth pasaron por verificadores de IA sin levantar ninguna alarma. La BBC también sometió la herramienta a pruebas de estrés, y produjo cosas controvertidas como tanques rusos moviéndose en tierras ucranianas, la Torre Eiffel colapsada en el suelo, y las grandes pirámides de Egipto tragadas por un enorme hundimiento.

      Preocupantemente, la investigación señala que era posible engañar a Gemini de Google para que dijera que estas imágenes falsas eran legítimas. No es sorprendente que las herramientas de verificación de IA de terceros también fallaran en numerosas ocasiones. Para recordar, todas las imágenes generadas por IA creadas por Gemini (y Nano Banana) vienen con una marca de agua invisible SynthID (desarrollada por Google DeepMind) y una marca de agua visible, también.

      Eso ni siquiera es mi mayor preocupación. Internet está repleto de contenido generado por IA que es inquietantemente realista, y muchas personas ni siquiera sospechan que es falso. E incluso si sospechan, simplemente no saben cómo verificar su autenticidad y detectar si fue generado por IA. En muchos casos, las personas simplemente no tienen el incentivo para verificar imágenes dudosas.

      “Los periodistas podrían ser capaces de verificar esa imagen… y reportar sobre ella. Pero, de nuevo, no todos van a hacer eso,” dijo el investigador de IA, Henry Ajder, a la BBC. Hablé con tres verificadores de hechos asociados con la Red Internacional de Verificación de Hechos (IFCN) respaldada por Poynter, y me dijeron que hay una gran brecha de alfabetización digital. Y sí, en la mayoría de los casos, simplemente no tienen una razón para verificar el verdadero origen de una imagen sintética y marcarla públicamente.

      Esto fue simplemente malo

      No obstante, el experimento de IA de Google al permitir que los usuarios expresaran su creatividad fue un caso de asombrosa ignorancia. Afortunadamente, la compañía hizo una corrección de rumbo y lo retiró rápidamente.

      “Hemos visto a profesionales geoespaciales utilizando esta función para una variedad de propósitos útiles, sin embargo, también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Así que estamos revirtiendo esta función en Google Earth mientras trabajamos en implementar controles más estrictos,” compartió la compañía en un comunicado en su blog oficial.

      Google

      Sospecho que este retroceso de la función fue rápido porque las apuestas eran mucho más altas. Los modelos de imágenes IA pueden ser fácilmente engañados para violar las salvaguardias de derechos de autor, producir imágenes sexualizadas y causar todo tipo de caos visual. No busques más allá de Grok AI en X, anteriormente Twitter. Google retiró esta función con tanta urgencia, creo, porque podría escalar en una tormenta internacional.

      Google se inclina ante los poderes políticos y muestra un mapa territorial diferente, dependiendo de dónde vivas. Las disputas fronterizas entre India-Pakistán e India-China son dos ejemplos de esto, y puedes leer más sobre ellos en este análisis de The Washington Post. Además, no olvidemos la increíble presión internacional sobre Google cuando se trata de guerras de supremacía de IA y las protestas en los centros de datos.

      ¿Un reactor nuclear en Irán durante tiempos de conflicto activo con EE. UU.? Bueno, no me sorprende (y también me alegra) que el gigante tecnológico corrigiera rápidamente su error en Google Earth-AI. Oye Google, tal vez, ¿te quedes con experimentos de IA divertidos como usar Nano Banana para digitalizar mi guardarropa y mejorar mi estilo de moda?