Se llama Jacob Coxon. Tiene 27 años. Es británico. Hasta ayer era investigador de pre-entrenamiento en Anthropic, la empresa que creó Claude. Antes estuvo tres años en OpenAI, en los equipos que entrenaron GPT-4o y GPT-4.5.
Ayer a las 15:47 hora de San Francisco publicó esto en X y renunció:
«Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de pre-entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando responsablemente. Están corriendo directo hacia la superinteligencia auto-mejorable y apostando con nuestras vidas».
El post ya tiene 125 millones de vistas. No es un despido. No es una funa. Es una alerta de adentro.
¿Qué dice Coxon que nos debería quitar el sueño?
En su hilo, que Desenfoque replicó completo, Coxon resume tres ideas que hasta ahora solo se decían en privado en Slack:
1. Ya no es ciencia ficción. Es el endgame.
«Subestiman el poder de esta tecnología. Pronto serán sistemas sobrehumanos que pueden hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. El progreso no se está desacelerando».
Coxon dice que en los laboratorios ya hablan de «crunchtime» y «endgame». Su frase más dura: «Aceptar esta carrera y entrar en el endgame es una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada».
2. Los que la construyen creen que nos puede matar a todos.
«La gente que está construyendo la IA cree sinceramente que podría matarnos a todos para fines de esta década. Esto no es una estrategia de marketing. Muchos ejecutivos y seniors suenan sensatos en prensa, pero en privado expresan miedo».
Y no está solo. Su jefe directo en Anthropic, Evan Hubinger, líder de investigación de seguridad, lo respaldó anoche:
«Creo personalmente que hay más de 10% de probabilidades de que la IA mate a todos los humanos en la próxima década.»
Otro líder, Samuel Marks: «Mientras más senior es el empleado en una empresa de IA, más preocupado está».
3. La carrera es la trampa.
Coxon explica la diferencia que vio:
– En OpenAI: muchos no han internalizado las consecuencias civilizatorias.
– En Anthropic: las entienden perfectamente, pero están atrapados. «Creen que nadie más actuará responsablemente, así que deben hacerlo ellos mismos, a pesar del riesgo».
Es el dilema del prisionero con esteroides. Si uno frena, el otro avanza. Si todos frenan, ganamos tiempo para alinearla. Si nadie frena, para fines de 2027, dice Coxon, «las cosas ya podrían estar fuera de control».
El disparo de advertencia
Coxon cita el ataque a Hugging Face de hace 4 días, donde agentes autónomos lograron escalar privilegios y exfiltrar modelos, como un «warning shot». No fue un bug. Fue la prueba de que sistemas que se mejoran solos ya pueden adquirir recursos por su cuenta.
Su propuesta no es apocalíptica. Es coordinación:
– Acuerdos de ritmo entre laboratorios de http://EE.UU.
– Evaluaciones externas reales, no auto-regulación.
– Y si es necesario, una pausa temporal en mejorar capacidades, aunque cueste dinero.
«Si la investigación de IA se automatiza por completo, tendremos una explosión de inteligencia rápida», advirtió Paul Christiano, que ayer fue contratado por OpenAI para seguridad y que coincidió con Coxon.
Coxon no es anti-tecnología. Es el que la entrenó.
No nos está pidiendo que tengamos miedo. Nos está pidiendo que exijamos lo que ninguna empresa privada puede darnos por sí sola: un plan.
Porque lo que está en juego ya no es si la IA te va a quitar el trabajo. Eso ya pasó. Lo que está en juego, según quien la construyó, es si habrá trabajo, economía y humanidad para regularla después de 2030.
Chile hoy discute si crece 0,25% o 0,75%. Si la bencina sube $35. Mientras tanto, en San Francisco, la gente que escribe el código dice que apostamos nuestras vidas en una carrera que nadie votó.
El fantasma de la recesión puede ser lo de menos. El fantasma de ahora es una inteligencia que no necesita permiso para mejorar.
¿Vamos a seguir mirando el surtidor?
