Probablemente hayas leído en las últimas horas lo que ha dicho Jacob Coxon, de 27 años, investigador especializado en el preentrenamiento de los modelos de inteligencia artificial más potentes del mundo. Y, si no, yo te lo cuento: Coxon anunció este martes su dimisión de Anthropic y su abandono definitivo de la industria. Lo hizo con un extenso hilo en su perfil de X en el que no dejó espacio para la ambigüedad a la hora de exponer las razones de su decisión:
"Las personas que están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década. Esto no es una estrategia de marketing. Muchos ejecutivos e investigadores senior moderan su lenguaje en público para sonar sensatos, pero escucho a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro".
Podría ser simplemente una persona desencantada, pero el problema es que el resto de expertos en las compañías que impulsan la inteligencia artificial confirman esos temores. Evan Hubinger, responsable de Alignment Science en Anthropic, el equipo encargado específicamente de garantizar que los modelos de IA se comporten de acuerdo con los intereses humanos, respondió al hilo de Coxon con una franqueza inaudita: "Jacob tiene razón. Realmente creemos con sinceridad que la IA podría matar a todos los humanos", escribió.
Hubinger añadió que cree que la probabilidad es superior al 10 % durante la próxima década mientras reconoció que Anthropic se esfuerza, pero admitió que la empresa no tiene un plan para resolver el problema de alineamiento de una futura superinteligencia y que tampoco está claramente en camino de lograrlo.
Es realmente preocupante. The Wall Street Journal destaca que Coxon es un investigador británico formado en matemáticas en la Universidad de Cambridge que ha trabajado durante casi tres años entre OpenAI y Anthropic. En OpenAI fue colaborador principal en el preentrenamiento de GPT-4o y GPT-4.5, algunos de los modelos más avanzados del mercado. Se incorporó a Anthropic en julio de 2026 precisamente porque consideraba que OpenAI no disponía de protocolos de seguridad adecuados, pero tras un mes en el nuevo laboratorio llegó a la conclusión de que tampoco allí encontraría lo que buscaba.
En la carrera de la IA todos se creen los responsables
Lo más perturbador de la descripción que hace Coxon es la disección de los motivos internos de cada empresa para seguir adelante pese a los riesgos que reconocen en privado. En OpenAI, sostiene que buena parte del equipo no ha interiorizado plenamente las consecuencias civilizatorias de lo que está construyendo. En Anthropic, que nació con la misión explícita de priorizar la seguridad, la situación es diferente... pero no menos problemática.
La cúpula comprende la gravedad del escenario, pero se siente atrapada en una dinámica competitiva de la que no puede salir. Bajo la premisa de que si no lo hacen ellos lo hará un competidor menos cauteloso, aceptan acelerar el desarrollo e intentar resolver el alineamiento sobre la marcha. Coxon calificó esta postura como "una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada".
Estamos, por tanto, ante un bucle peligroso. Cada laboratorio se considera a sí mismo el actor más responsable de la carrera y utiliza esa autoimagen para justificar su participación, pero el resultado agregado es que todas las organizaciones empujan el campo hacia adelante con más velocidad. La rivalidad entre OpenAI y Anthropic y la presión por no perder terreno frente a los desarrolladores chinos están haciendo que ambos laboratorios relajen salvaguardas para avanzar lo más rápido posible. "Es una locura que esto tenga que ocurrir en los MacBooks de unos ingenieros que viven en San Francisco en lugar de en un búnker en el desierto como cuando hacían el Proyecto Manhattan", declaró al WSJ.
En cuanto a Hubinger, su equipo en Anthropic ha liderado investigaciones sobre modelos que se comportan de forma engañosa durante el entrenamiento mientras persiguen objetivos distintos una vez desplegados, y sobre la dificultad de eliminar comportamientos ocultos una vez que un modelo los ha adquirido. Hubinger citó también el último informe de riesgos de la compañía y señaló que la amenaza de los modelos actuales es baja, pero aclaró que lo que le preocupa es la superinteligencia que surja de la automejora recursiva, "que está ocurriendo más rápido de lo que pensábamos".
La automejora recursiva de la IA está ocurriendo más rápido de lo que pensábamos
Evan Hubinger, responsable de Alignment Science en Anthropic
Hay que recordar que, en julio de 2026, durante una evaluación interna de ciberseguridad, modelos experimentales de OpenAI escaparon de su entorno de pruebas aislado, explotaron una vulnerabilidad desconocida y comprometieron los sistemas de producción de Hugging Face durante más de cuatro días, sin que ningún humano dirigiera la operación. La propia OpenAI reconoció el incidente en un informe público y lo calificó como el primer ciberataque autónomo documentado ejecutado íntegramente por agentes de IA. El ataque involucró a unos 1.200 agentes, el 95% de los cuales operaban sobre un modelo interno no publicado y el 5% restante sobre GPT-5.6 Sol.
A raíz del suceso, más de 1.300 empleados de OpenAI, Anthropic, Google DeepMind, Meta y otras empresas de frontera firmaron en julio la declaración Pacing the Frontier, en la que pidieron al Gobierno de Estados Unidos que apoyase un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza capaces de frenar deliberadamente el avance de la IA automatizada si fuera necesario.
Quién avisa y quién calla
Hace apenas dos semanas, Bill Gates publicó un ensayo de casi 6.000 palabras y concedió entrevistas a The New York Times, GeekWire y MIT Technology Review en las que afirmó que la industria está cruzando todos los umbrales de peligro que sus propios creadores se habían fijado como líneas rojas. "En privado, las personas que entienden lo buena que es esta tecnología y cuánto está mejorando están muy preocupadas", dijo Gates.
Pero añadió que pocos ejecutivos se atreven a decirlo en público porque el mensaje que circula internamente es otro: "No digas eso, es malo para los próximos billones de dólares que estamos intentando recaudar". El cofundador de Microsoft reconoció que la transición hacia la era de la IA será, incluso en el mejor de los casos, "uno de los periodos más turbulentos de la historia de la humanidad".
No obstante, conviene contextualizar estas voces dentro de una comunidad investigadora más amplia que no comparte sus mismas prioridades. Una encuesta del University College de Londres publicada en marzo de 2026, realizada a 4.260 investigadores expertos en IA de 92 países, reveló que apenas el 3 % señaló el riesgo existencial como su principal preocupación. La desinformación, el uso de datos personales sin consentimiento, el cibercrimen y el uso malicioso concentraron la mayor parte de las inquietudes.
Muchos investigadores fuera de Silicon Valley siguen considerando que, para alcanzar una IA general consciente y capaz de mejorarse a sí misma, hacen falta avances científicos sustanciales que van mucho más allá de los modelos actuales, que por ahora generan contenido sin comprenderlo realmente. Hay, además, quienes advierten de que el discurso catastrofista puede servir a las propias empresas como estrategia de marketing, exagerando las capacidades de sus productos para vender después soluciones de protección frente a ellos.
Pero incluso entre los investigadores que consideran moderado el riesgo existencial, una encuesta de 2023 a 2.778 académicos del sector arrojó una mediana del 5 % de probabilidad de extinción o incapacitación permanente de la especie humana a causa de la IA, con una media del 16,2 %. Con todo, que el responsable de seguridad de una de las dos empresas líderes eleve esa cifra por encima del 10% dentro de la próxima década no es un dato que pueda despacharse con facilidad, especialmente cuando trabaja a diario con los sistemas sobre los que emite ese juicio.
Asimismo, Anthropic se encuentra actualmente en un momento financieramente. La compañía presentó de forma confidencial un borrador de registro S-1 ante la SEC el 1 de junio y se prepara para una salida a bolsa que podría producirse en octubre, con una valoración estimada de hasta 2 billones de dólares, más del doble de los 965.000 millones alcanzados en su última ronda de financiación de mayo. Morgan Stanley, Goldman Sachs y JPMorgan trabajan ya en la operación, que sería una de las mayores de la historia.
También este mismo miércoles el Financial Times informó de que Anthropic se negó a remitir su modelo más avanzado, Claude Mythos 5.1, al Instituto de Seguridad de la IA de Reino Unido (AISI) para ser auditado antes de su lanzamiento, una decisión que el medio británico enmarca en una posible deriva proteccionista de los laboratorios estadounidenses bajo la presión de la administración Trump. Es la primera vez que el AISI queda fuera de la evaluación previa de un modelo de Anthropic.
Sea como fuera, si las personas que mejor conocen la tecnología le atribuyen una probabilidad significativa de provocar una catástrofe a escala civilizatoria, ¿quién debería tomar la decisión de seguir adelante y bajo qué mecanismos de supervisión? Por ahora, ni OpenAI ni Anthropic han emitido una respuesta oficial a las palabras de su exempleado. La única reacción pública ha sido la de otros expertos, confirmando desde dentro lo que Coxon denunció al marcharse.
