Demis Hassabis no es un iluminado de Twitter ni un futurólogo con ganas de salir en Black Mirror. Es el CEO de Google DeepMind, premio Nobel de Química en 2024, y alguien que ha visto crecer a la IA desde dentro. Esta semana ha soltado una frase que debería resonar en todos los despachos donde se decide el futuro de la tecnología: «Nadie en el mundo sabe con certeza qué va a ocurrir».
El Nobel que sí ve el precipicio
Hassabis viene de lograr cosas como AlphaFold, un sistema que predice la estructura de las proteínas como si fuera un truco de magia científica. No es un alarmista de los que piden pausar el desarrollo porque sí. Pero su última publicación —un artículo extenso en X— es un golpe en la mesa. La carrera por la IA de frontera avanza más rápido que nuestra capacidad de entender lo que estamos construyendo. Y propone algo concreto: un organismo que evalúe los modelos más potentes antes de que lleguen al mercado.
Un examen antes de jugar con fuego
La idea es crear en Estados Unidos una entidad con supervisión federal que ponga a prueba los modelos de IA de vanguardia. Hablamos de tests de ciberseguridad, de si pueden diseñar armas biológicas o de si intentan eludir salvaguardas. Primero voluntariamente —30 días antes del lanzamiento— y luego, si el riesgo persiste, de forma obligatoria. Hassabis incluso sugiere que, si la situación se vuelve crítica, este marco podría usarse para coordinar una ralentización entre grandes laboratorios.
La propuesta de Hassabis no es un freno, es un airbag para cuando el coche va demasiado rápido.
No es el primero en pedir cautela. Geoffrey Hinton lleva años diciendo que los sistemas más inteligentes podrían escapar a nuestro control. Yoshua Bengio reclama más investigación en seguridad. Y Elon Musk firmó en 2023 aquella carta pidiendo una pausa de seis meses… aunque luego lanzó xAI y se metió de lleno en la competición. La gran duda es si las advertencias son altruistas o una jugada para ralentizar a los rivales mientras Google sigue avanzando.
Hype-O-Meter
Nivel de hype: 8/10. Que el CEO de uno de los grandes laboratorios de IA pida regulación tiene mucha miga. Pero también es una maniobra en medio de una guerra comercial. La propuesta es sólida, aunque verla aplicada en Washington con el lobby tech de por medio es otra historia.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? Demis Hassabis, Nobel y CEO de DeepMind, avisa de que la IA avanza más rápido de lo que entendemos.
- 🔥 ¿Por qué importa? Propone un organismo que evalúe los modelos de frontera antes de lanzarlos, con pruebas duras de seguridad.
- 🤔 ¿Nos afecta o es solo un meme? Si un Nobel te dice que podrías perder el control de la IA, más vale escuchar. Aunque luego cada gobierno hará lo que le dé la gana.
