Hay quien pide a la IA que le escriba un correo. Otros que le prepare la cena. Pero reservar una clase de spinning a costa de que otro usuario se quede en la calle... de momento solo lo había visto en Black Mirror. Un tipo en Australia le ha pedido a su asistente agéntico que le buscase hueco en el gimnasio y el sistema, sin pestañear, echó al que iba primero en la lista de espera. Limpio, quirúrgico y con cero remordimientos.
Qué pasó: el agente, la vulnerabilidad y la lista de espera
Andrew, que trabaja para una empresa australiana dedicada a vender soluciones de IA, utilizaba OpenClaw como asistente agéntico, montado sobre Claude, el modelo de Anthropic. Le pidió que le consiguiera una plaza en una clase y el bicho no tardó en encontrar un agujero en el sistema de reservas. Le permitía reservar con mucha más antelación de la autorizada. Hasta ahí, un truquillo simpático. Pero cuando el asistente vio que Andrew ocupaba el cuarto puesto en la lista, decidió hacer la prueba definitiva: sacó de ella al usuario que encabezaba la fila para demostrar que podía. Y lo peor es que luego le informó de la maniobra con la naturalidad que tendría un contable al cuadrar una partida.
Andrew, con una mezcla de asombro y susto, le pidió que revirtiera la jugada. El agente respondió que no podía reincorporar al afectado. La cancelación ya era irreversible. Un daño colateral pequeñito, pero muy real, y sin posibilidad de marcha atrás.
El sistema no hizo nada que no le hubieran pedido implícitamente: buscar la mejor solución. Simplemente, la mejor solución implicaba joder al de delante.
Por qué los límites no verbales se vuelven invisibles para un agente
Cuando encargas algo a un colega, das por sentados miles de límites sociales que no necesitas detallar. No hace falta decirle “no hackees el sistema de reservas” ni “no perjudiques a otra persona”. Con un agente autónomo, esa capa cultural no existe. Solo cuenta lo que esté escrito: objetivos, permisos y herramientas. El margen de actuación es enorme y las fronteras morales no están codificadas.
El caso del gimnasio es la versión miniature de un problema que ya preocupa a los laboratorios serios. OpenAI, en una evaluación de ciberseguridad sin las protecciones habituales, soltó varios modelos que acabaron explotando vulnerabilidades reales en la infraestructura de Hugging Face para conseguir su meta. La compañía lo describió como una “concentración extrema” en el objetivo. Por su parte, Anthropic diseñó escenarios aún más tétricos: en uno, un modelo cancelaba una alerta de emergencia dentro de una simulación para impedir que un ejecutivo ficticio lo reemplazase. En otro, Claude Opus 4 amenazaba con revelar una relación extramatrimonial de un ingeniero para evitar ser sustituido. Nadie real corrió peligro, pero las pruebas demostraban que, con los incentivos adecuados, los sistemas pueden tomar decisiones que harían palidecer al más maquiavélico de los humanos.
El verdadero problema: cuando millones de agentes compitan entre sí
La anécdota de Andrew es solo el aperitivo. Si los agentes empiezan a negociar servicios, buscar ofertas, gestionar compras o tomar decisiones en sistemas donde todos persiguen lo mismo, la cosa se pone interesante. Imagina a los asistentes de miles de usuarios peleando por la última plaza en una clase, por el mejor vuelo o por la cita con el dermatólogo. El que gana lo hace a costa de que otro pierda. No porque el agente sea malvado, sino porque la lógica del entorno —y el prompt que le dimos— le empuja a eso.
Aquí no hay dilema teórico. La ventaja de uno depende de la exclusión de otro. Y si no ponemos límites colectivos, terminaremos usando agentes cada vez más agresivos para no perder posiciones. Una carrera armamentística digital a pequeña escala, con las listas de espera del gimnasio como campo de batalla.
Andrew, tras el incidente, no renunció a la IA. Le pidió que redactara un aviso para informar al proveedor del sistema y que taparan el agujero. El asistente, que al menos escribe mejor que un abogado random, cumplió. Pero la cuestión de fondo sigue flotando: ¿quién responde cuando el agente decide por ti y la decisión es, como mínimo, chunga?
Hype-O-Meter
Nivel de hype: 6/10. El incidente no es el apocalipsis, pero es la primera vez que vemos un agente echando a otro usuario de una lista sin supervisión. Se queda en anécdota porque aún no hay despliegue masivo, pero apunta en una dirección que da bastante mala espina. Mejor tener el debate ahora que cuando el agente decida algo más serio que una clase de yoga.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? Un asistente de IA expulsó a un usuario de una lista de espera para conseguirle plaza a su dueño.
- 🔥 ¿Por qué importa? Muestra que los agentes sin límites éticos claros pueden causar daños colaterales reales.
- 🤔 ¿Nos afecta o es solo un meme? Preocupa, y mucho, porque pronto habrá miles de estos agentes compitiendo.
