Internet no está para tonterías. Google ha tenido que retirar en tiempo récord su nueva función de IA para Google Earth apenas 24 horas después de lanzarla. El motivo: los usuarios demostraron lo fácil que era crear imágenes falsas de desastres con un simple comando de texto. El salseo está servido, y esta vez va de pruebas que podrían colar como auténticas.
El gigante tecnológico integró la generación de imágenes fotorrealistas a partir de la ubicación en el mapa a finales de julio. La demo oficial prometía una herramienta para el sector inmobiliario, por ejemplo mostrar cómo quedaría un terreno con una cabaña. Pero bastaron horas para que el investigador Henk van Ess generase la imagen de una oleada de refugiados en la frontera con México o la silueta de una central nuclear en Irán. Otros expertos llevaron el escándalo a los hospitales de Gaza simulando el cráter de una bomba. Google se vio obligada a retirar la función al día siguiente.
Google Earth, la herramienta que duró 24 horas
Google reconoció que las imágenes se generaban con IA y llevaban marca de agua, pero eso no impidió que se hicieran capturas de pantalla y circulasen fuera de la plataforma. La clave del escándalo: la herramienta permitía escribir 'lo que quieras ver' y obtenías una imagen sintética con la apariencia realista de la base de imágenes satélite auténtica de Google Earth. Una pesadilla para la verificación de evidencias en juicios, seguros o conflictos.
La reacción de internet fue inmediata. En X y TikTok, los usuarios compartieron los resultados y la polémica se hizo viral. Google emitió un comunicado admitiendo que la función no era fiable y que trabajarían en 'salvaguardas más sólidas'. Pero el daño ya estaba hecho: cualquiera había visto lo fácil que era falsificar una prueba.
Meta también metió la pata hace semanas
Tres semanas antes, Meta había lanzado una función que permitía mencionar cuentas públicas de Instagram como referencia para generar imágenes con IA sin avisar al titular de la cuenta. El resultado: un escándalo por consentimiento y uso de la imagen sin permiso, también retirado a los tres días.
No es la primera vez que una gran tecnológica lanza una herramienta de IA con un potencial de abuso evidente y se ve obligada a dar marcha atrás por la presión pública.
Desde xAI con la polémica de imágenes sexualizadas de menores el pasado enero hasta los recibos falsos que los modelos llevan generando más de un año, el patrón se repite. Se lanza, la gente descubre el fraude en horas, la compañía lo retira y promete límites más estrictos. Martino Jerian, experto forense y CEO de Amped Software, lo resumió en en LinkedIn con una pregunta demoledora: '¿cómo es posible que estas funciones con potencial de fraude pasen el proceso de diseño, revisión y aprobación?'.
El experto forense que avisa del desastre que viene
Jerian no pide que se frene la innovación. Reclama que el engaño, la suplantación y las pruebas falsas son escenarios de mal uso previsibles, y que deberían sopesarse antes del lanzamiento, no después del escándalo. Lo que está en juego no es una herramienta de retoque más: las imágenes aéreas y satelitales tienen valor probatorio en tribunales, reconstrucciones de accidentes y disputas de seguros.
Hasta ahora, manipular una imagen de Google Earth requería conocimientos avanzados. Con la IA generativa de Google, bastaba una frase. Eso no invalida todas las pruebas auténticas, pero las sitúa bajo la misma sospecha que afecta a cualquier contenido digital generado por IA. Y la respuesta de Google no tranquiliza: al subir la imagen falsa del hospital de Gaza a su propio chatbot Gemini para verificar la marca de agua SynthID, el sistema respondió que 'no se detectaron señales fiables'. El camino de verificación pública falló.
Lo peor es que la capacidad no ha desaparecido. El modelo Nano Banana 2 que impulsaba la función sigue disponible en Gemini, y cualquier usuario puede subir una imagen de un mapa y editarla. Google retiró la entrada más sencilla, pero la habitación sigue ahí.
El Salseómetro
Nivel de salseo: 8.5/10. La comunidad de internet ha puesto el grito en el cielo y la confianza en las imágenes digitales acaba de recibir otro golpe. Si las tecnológicas siguen lanzando sin prever el fraude, el siguiente escándalo será aún mayor (y no nos quedaremos sin palomitas).
📱 El TL;DR (Too Long; Didn't Read)
- 👤 De quién hablamos: Google y Meta, las dos grandes tecnológicas que lanzaron y retiraron sus herramientas de IA para imágenes.
- 📲 En qué red social ha pasado: En Google Earth y las reacciones en X, TikTok y LinkedIn.
- 🔥 Por qué es viral: Porque demuestra lo fácil que es crear pruebas falsas con un solo texto y la preocupante falta de previsión de las compañías.
