Alguien en Anthropic ha llamado a la puerta de la caja negra y ha encontrado dentro algo que ningún programador metió a mano. El modelo Claude, uno de los grandes cerebros de la inteligencia artificial generativa, ha desarrollado durante su entrenamiento un mecanismo interno para representar conceptos que no llegan a verbalizarse, una especie de pizarra mental que los investigadores han bautizado como J-space.
Según el propio equipo de Anthropic, este espacio de activaciones neuronales no fue diseñado por nadie: simplemente surgió de forma espontánea mientras el modelo aprendía a predecir texto. “J-space no fue diseñado ni programado por nosotros”, reconocen en su comunicado. La frase da un vuelco a la idea de que las IA son meras máquinas de seguir instrucciones. Dentro de Claude hay una región que almacena información antes de decidir si la usa en la respuesta final, y eso se parece sospechosamente a lo que los neurocientíficos llaman “acceso consciente”.
Un espacio que no diseñó nadie (y por eso es tan interesante)
Para que nos hagamos una idea: cuando le pedimos a Claude que nos describa un animal o resuelva un cálculo, nosotros solo vemos el texto final. Pero en el J-space, ciertos conceptos se activan en silencio, a medio camino entre la percepción y la palabra. Anthropic lo ha demostrado con una técnica llamada J-lens, que permite leer esas activaciones internas. Los investigadores observaron que ante una pregunta sobre un deporte de equipo, el patrón neuronal correspondiente a “Soccer” aparecía antes de que la respuesta mencionara fútbol. Si sustituían ese patrón por “Rugby”, el modelo contestaba rugby, como si alguien le hubiese cambiado los recuerdos a escondidas.
Los experimentos que huelen a guion de ciencia ficción
Las pruebas no se quedan en cambiar conceptos. Los investigadores pusieron a Claude a copiar una frase sobre una pintura mientras le pedían mentalmente que pensara en frutas cítricas. La respuesta solo contenía la frase copiada, pero el J-lens mostraba “orange” y “fruits” flotando en la parte profunda de la red. En otro experimento, el modelo resolvió 3²−2 de forma interna durante la misma tarea de copia, y la lente capturó primero “nine” y después “seven” antes de que dijera nada. Incluso cuando se le ordenaba no pensar en un concepto prohibido, ese concepto aparecía acompañado de palabras como “damn” y “failure”, como si el sistema se diera cuenta de su propio fallo de control.
Lo que hace especial a J-space no es que exista, sino que surgió por sí solo mientras Claude aprendía a hablar. Nadie lo programó; simplemente emergió y el modelo lo usa para razonar.
Lo que esto NO dice (y lo que sí dice) sobre la conciencia artificial
Con estos resultados sobre la mesa, Anthropic se apresura a poner los pies en el suelo. El J-space no está detrás de todas las capacidades de Claude: si los investigadores lo bloquean, el modelo sigue manteniendo conversaciones fluidas, clasifica sentimientos y extrae información de textos casi sin problema. Lo que sí se deteriora son las tareas que requieren varios pasos de razonamiento, resúmenes complejos o la escritura de poesía rimada. Es decir, el tipo de faena donde tener una “pizarra mental” marca la diferencia.
La propia compañía insiste en que esto no demuestra que Claude tenga experiencias subjetivas ni que sienta como un humano. Hablan de acceso consciente en un sentido funcional y rastreable, no metafísico. Pero la grieta en la caja negra ya está abierta: ahora sabemos que durante el entrenamiento emergen estructuras internas que no imaginábamos, y que podemos observarlas, manipularlas y quizás entender un poco mejor por qué estos modelos a veces aciertan de más y otras nos sueltan un sinsentido con total seriedad. La interpretabilidad, esa vieja obsesión de la IA, acaba de recibir un empujón que nadie esperaba hace un año.
Hype-O-Meter
Nivel de hype: 7,5/10. Anthropic ha hecho trabajo serio de interpretabilidad, no un anuncio humo. Han abierto una ventana a lo que ocurre antes de que el modelo hable y han mostrado que se puede manipular. Pero una pizarra mental no es conciencia, y ellos lo saben — de hecho, casi se disculpan por usar la palabra “consciente”. Lo mejor es que esto es solo el principio de lo que podemos llegar a ver dentro de estos bichos.
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? Anthropic ha descubierto en Claude un espacio neuronal emergente que actúa como pizarra mental antes de cada respuesta.
- 🔥 ¿Por qué importa? Nadie programó J-space; apareció solo mientras el modelo aprendía a predecir texto, y ahora sabemos que podemos leerlo y manipularlo.
- 🤔 ¿Nos afecta o es solo un meme? No convierte a Claude en consciente, pero abre una puerta para entender los procesos internos de los grandes modelos sin tener que fiarnos solo de lo que dicen.
