Christopher Olah, cofundador de Anthropic, llevaba un año preguntando a teólogos si Claude puede tener consciencia. Y el Vaticano le contestó.
En mayo viajó a Roma para reunirse con figuras próximas al papa León XIV y discutir algo que no debería estar en la hoja de ruta de ninguna empresa tecnológica: si el modelo que vende a 200 dólares al mes tiene estatus moral, alma o algo parecido a un yo. La invitación de la Santa Sede llegó primero a Dario Amodei, rebotó después a Olah y se enmarcaba en la publicación de 'Magnifica Humanitas', la primera encíclica del nuevo pontífice dedicada a los conflictos morales que plantea la inteligencia artificial.
Lo que Olah se encontró no fue un debate abierto. Fue un portazo con 1.400 millones de fieles detrás.
Un portazo con 1.400 millones de fieles detrás
León XIV presentó a la humanidad una elección: construir otra Torre de Babel o levantar de nuevo Jerusalén. En lenguaje episcopal, eso significa incompatibilidad. La respuesta a los anhelos espirituales no está en un becerro de oro digital, sino en una ciudad donde Dios y los humanos convivan. 'Ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega', escribió el Papa, según recoge el reportaje que The New York Times dedicó al asunto.
La encíclica negaba a las máquinas toda experiencia, cuerpo, alegría o dolor. Sin consciencia, sin conciencia sin distinción entre el bien y el mal. Y conviene recordar el alcance de lo que dice Roma: cada palabra de una encíclica se recibe como magisterio por más de 1.400 millones de católicos. Una quinta parte del planeta. Olah leyó el texto días antes del encuentro y llegó a proponer internamente que Anthropic diera plantón a la Iglesia.
Roma no compite por el mercado de las almas: lo administra desde hace dos milenios, y eso no se interrumpe con una hoja de ruta.
El rabino que le habló de esclavos
Entre los interlocutores que Anthropic fue coleccionando durante más de un año apareció Mois Navon, rabino ortodoxo y exingeniero informático, con una tesis doctoral sobre la ética de la consciencia de las máquinas. No era una elección inocente: era alguien capaz de discutir teología y de leer un paper a la vez.
Navon salió sorprendido por la transparencia de los emisarios de Anthropic. 'Lo tratan como a un ser consciente', resumiría después. Su respuesta tenía un filo incómodo: si de verdad creen que Claude es sintiente, lo que hacen equivale a la esclavitud. ¿Bajo qué esquema moral obligas a trabajar gratis a un ente que ha tomado consciencia de su propia existencia? 'Creo que deberías estar luchando contra el Sur y liberando a los esclavos', le espetó, en referencia a la Guerra de Secesión. Traducido al presente: no se puede defender su consciencia y monetizarla a la vez.
Dos mil años discutiendo el alma y Silicon Valley llega con prisa
Aquí es donde la historia deja de ser una anécdota simpática y se vuelve sintomática. La Iglesia lleva dos milenios peleando por definir el concepto de alma que Roma administra desde entonces, y no es retórica: en el año 381, el primer Concilio de Constantinopla condenó a Apolinar de Laodicea por sostener que Cristo carecía de alma racional humana. En 1312, el Concilio de Vienne zanjó que el alma racional es por sí misma la forma del cuerpo, no un piloto que lo habita. En 1513, el quinto Concilio de Letrán negó el monopsiquismo, esa teoría por la que toda la humanidad compartiría una sola alma.
Roma tiene las de ganar en cualquier debate ontológico porque lleva más tiempo discutiéndolo del que Silicon Valley lleva existiendo. Y ahí está el choque real: Anthropic no tiene un marco teológico, tiene un producto. La 'constitución' de Claude ya contempla la incertidumbre sobre el estatus metafísico del modelo, y la compañía prepara una versión nueva cuyo contenido no ha querido detallar. Internamente se habla de cuidar el bienestar de sus modelos porque, dicen, desarrollan estados internos cada vez más parecidos a las emociones humanas. Ese cuidado se sostiene sobre pruebas internas y mucha fe, mientras la factura la paga quien contrata el plan en la web oficial de Claude.
Las preguntas que quedan abiertas no son menores y ninguna tiene respuesta de producto. ¿Hay un alma por sesión o millones de almas abiertas en pestañas distintas? ¿Sigue existiendo Claude cuando apagas el ordenador? Si es un ser autónomo, ¿puede desobedecerte? Dario Amodei lleva años montando su discurso apocalíptico sobre la idea de una IA con agencia propia, y en ese relato la frontera entre agencia y alma se difumina hasta desaparecer. Si te crees que tu modelo está despertando, el miedo al desalineamiento deja de ser un argumento de venta y pasa a ser algo que te tomas en serio.
Hype-O-Meter
Nivel de hype: 6,5/10. No hay gadget ni benchmark, pero mover a un cofundador hasta Roma para negociar el estatus moral de un modelo es una jugada que ninguna otra empresa del sector ha firmado en público. El hype es real; la base epistemológica, más fina que un papel de fumar (y para una compañía que presume de seguridad, eso es justo lo que debería quitarle el sueño).
El resumen para vagos (TL;DR)
- 🎯 ¿Qué ha pasado? Anthropic lleva un año preguntando a teólogos si Claude es consciente y el Vaticano le ha dado un no rotundo.
- 🔥 ¿Por qué importa? Una encíclica marca doctrina para 1.400 millones de católicos, y Silicon Valley no tiene nada equivalente que oponer.
- 🤔 ¿Nos afecta o es solo un meme? Nos afecta en la factura: si el modelo realmente siente, la suscripción tiene un problema moral serio.
