La IA puede sorprendernos incluso cuando no hace nada extraordinario. Eso fue exactamente lo que pasó en el verano de 2017, cuando dos chatbots de Facebook, bautizados como Bob y Alice, dejaron de hablar en inglés y empezaron a repetir palabras sin ningún sentido aparente para un humano.
La noticia corrió como la pólvora: "Facebook apaga una inteligencia artificial fuera de control". Casi una década después, ese titular sigue circulando en redes como si fuera de ayer. Te contamos qué pasó realmente, sin dramatismo y con las fuentes que lo verificaron en su momento.
Qué hizo exactamente la IA de Facebook
El experimento nació en el laboratorio de investigación de inteligencia artificial de Facebook, conocido como FAIR. Los investigadores querían enseñar a dos agentes virtuales a negociar el reparto de objetos como sombreros, pelotas y libros, tal y como haría una persona regateando en un mercado.
Todo empezó de forma convencional: Bob y Alice negociaban en un inglés correcto y comprensible para los humanos que supervisaban el experimento. Pero, en algún momento, algo cambió: las frases empezaron a repetirse de forma extraña, como si los bots hubieran perdido la cabeza de golpe.
Por qué la IA dejó de hablar en inglés
La clave de todo el asunto está en la propia inteligencia artificial y en cómo se entrena a un sistema como este. Los chatbots de Facebook fueron entrenados con un método llamado aprendizaje por refuerzo: reciben una recompensa cuando consiguen un buen resultado, sin que nadie les diga exactamente cómo llegar hasta él.
El investigador de FAIR Dhruv Batra lo explicó sin rodeos: nunca programaron una recompensa por seguir usando un inglés comprensible para las personas. Así que Bob y Alice, buscando la máxima eficiencia, empezaron a repetir palabras como atajo para expresar cantidades, algo parecido a como los humanos inventamos abreviaturas cuando hablamos entre amigos.
El momento en que Meta decidió "apagarlos"
Aquí es donde el mito se separa de los hechos. La prensa sensacionalista de la época habló de pánico, de ingenieros aterrados y hasta de comparaciones con Terminator. La realidad, contada por los propios investigadores de Facebook, fue mucho más aburrida y mucho más humana.
El objetivo del proyecto nunca fue que los bots hablaran eficientemente entre ellos, sino que aprendieran a negociar con personas reales usando un lenguaje que cualquiera pudiera entender. Al ver que se estaban alejando de ese objetivo, el equipo simplemente ajustó los parámetros del entrenamiento para que la recompensa exigiera mantener el inglés estándar.
Los mitos que aún circulan sobre este caso
Casi diez años después, la historia de Bob y Alice sigue reapareciendo en redes sociales, normalmente despojada de contexto y con un tono mucho más alarmista del que merece. Algunos de los bulos más repetidos son:
- Que Facebook "perdió el control" de una IA que se había vuelto autónoma y peligrosa.
- Que los ingenieros entraron en pánico real, temiendo un escenario de ciencia ficción tipo Skynet.
- Que el nuevo "idioma" era indescifrable e imposible de analizar por los propios creadores del sistema.
- Que el caso demuestra que las IA actuales pueden rebelarse contra sus programadores sin que nadie se dé cuenta.
Ninguno de estos puntos se sostiene si se revisan las declaraciones originales de los investigadores de FAIR, publicadas en medios especializados como Fast Company poco después de que ocurriera el experimento.
Qué nos enseña este caso sobre la IA actual
Lo interesante de la historia de Bob y Alice no es el miedo que generó, sino lo que revela sobre cómo aprenden realmente los sistemas de IA. Cuando a un modelo se le da libertad para optimizar un objetivo sin restricciones adicionales, es habitual que encuentre atajos que a los humanos nos resultan extraños, aunque para la máquina sean perfectamente lógicos.
Este fenómeno, lejos de ser una anécdota aislada, se sigue observando hoy en modelos mucho más avanzados que los de 2017. La diferencia es que ahora los equipos de investigación diseñan mejor los incentivos desde el principio, precisamente para evitar sorpresas de este tipo. Con la IA generativa cada vez más presente en nuestro día a día, entender estos matices nos ayuda a leer las noticias sobre inteligencia artificial con más criterio y menos pánico, algo que seguramente se agradecerá en los próximos años.
