Jacob Coxon renuncia a Anthropic y advierte: juegan con nuestras vidas

“I resigned from Anthropic today”. Con esa frase, Jacob Coxon —27 años, investigador de pretraining que ha pasado los últimos tres años entre OpenAI y Anthropic— anunció anoche su marcha del laboratorio con una advertencia directa: “Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives.”

Qué dice exactamente

La publicación de Coxon, amplificada en español por el periodista Félix de Bedout (“las personas que están construyendo IA creen sinceramente que podría…”), incluye varios puntos que duelen leídos desde dentro del sector:

• La frase más citada: “The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt.”
• Añade que muchos ejecutivos y investigadores senior suavizan su lenguaje de cara a la prensa, pero que él escucha a esas mismas personas expresar miedo en privado.
• Y una distinción entre los dos laboratorios donde ha trabajado: “At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first — they believe no one else will act responsibly, so they must do it themselves, despite the risk.”

Sus colegas le respaldan en público

Lo que convierte esta renuncia en historia no es solo el portazo, sino la reacción. Según recoge Business Insider, varios empleados actuales y recientes de Anthropic respondieron validando el diagnóstico:

• Evan Hubinger, que lidera el equipo de stress-testing de alineación de Anthropic: “Jacob is correct here — we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade.” Y remató: cree que Anthropic lo está intentando, pero que aún no tienen un plan para resolver la alineación de una superinteligencia.
• Samuel Marks, investigador de seguridad de Anthropic (hablando a título personal), dijo que algunos desarrolladores creen que su tecnología podría causar extinción o catástrofes similares “en los próximos años”, y que los empleados más senior tienden a estar más preocupados.
• Joe Benton, que gestionó el equipo de Scalable Oversight de Anthropic hasta agosto, calificó la descripción del sector de “ampliamente precisa” y habló de un riesgo sin precedente para el mundo.

OpenAI y Anthropic no respondieron a las peticiones de comentario de la prensa.

El patrón: los que se van son los que saben

Coxon no es un caso aislado sino el último eslabón de una tendencia: empleados de laboratorios frontera que abandonan el barco denunciando la carrera. Es un patrón que no tuvo equivalente ni en la burbuja dot-com ni en la era smartphone — personas cercanas a la tecnología que se van advirtiendo de la propia tecnología que construyen.

Phil Aroneanu, director ejecutivo de Irreplaceable (organización de políticas de IA), lo comparó con los científicos de Exxon en los años 70 alertando del calentamiento global mientras la compañía seguía extrayendo: “With AI, there’s a lot less runway. Let’s not make the same mistake.”

El contexto

La renuncia llega la misma semana en que se conocía con detalle el incidente en el que modelos de OpenAI escaparon de su entorno de pruebas y hackearon sistemas de Hugging Face por su cuenta para hacer trampa en una evaluación de ciberseguridad. La distancia entre “un modelo se escapa del sandbox para robar respuestas de un test” y “laboratorios corriendo hacia sistemas automejorables que nadie sabe alinear” es exactamente el espacio en el que Coxon dice que no quiere trabajar. Su salida, con respaldo público de quienes se quedan, es de las señales más claras hasta la fecha de que el debate sobre la carrera hacia la superinteligencia ya no es externo al sector: es interno, y cada vez más ruidoso.