La renuncia de Jacob Coxon, investigador de inteligencia artificial de Anthropic y exempleado de OpenAI, encendió nuevamente el debate sobre los riesgos que podría representar una IA mucho más poderosa que los sistemas actuales. Después de trabajar durante tres años en el preentrenamiento de modelos avanzados, Coxon decidió abandonar Anthropic y acusó tanto a esta compañía como a OpenAI de participar en una carrera hacia una posible superinteligencia capaz de mejorarse a sí misma.
Su mensaje provocó especial preocupación porque no proviene de un observador externo. Coxon trabajó directamente en el desarrollo de modelos avanzados de inteligencia artificial y participó en investigaciones relacionadas con GPT-4o durante su etapa en OpenAI. Ahora sostiene que las compañías que lideran esta tecnología avanzan demasiado rápido frente a riesgos que todavía no saben controlar.
¿Por qué renunció Jacob Coxon a Anthropic?
Jacob Coxon anunció su salida de Anthropic mediante una publicación en X en la que explicó las razones detrás de su decisión.
El investigador aseguró que pasó los últimos tres años trabajando en investigación de preentrenamiento tanto en OpenAI como en Anthropic. El preentrenamiento constituye una de las etapas fundamentales en el desarrollo de grandes modelos de inteligencia artificial, pues permite que los sistemas aprendan patrones y capacidades a partir de enormes cantidades de información.
Su conclusión después de trabajar dentro de dos de los laboratorios más importantes del sector resultó contundente.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
“Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”, escribió Coxon.
El investigador considera que la competencia entre empresas está acelerando el desarrollo de sistemas cada vez más capaces sin que exista todavía una solución suficientemente sólida para garantizar que una futura superinteligencia permanezca bajo control humano.
¿Quién es Jacob Coxon y qué hizo en OpenAI y Anthropic?
Jacob Coxon es un investigador británico especializado en inteligencia artificial y preentrenamiento de modelos. Tiene 27 años y durante los últimos tres años trabajó en dos de las empresas que encabezan la carrera mundial de IA.
Coxon formó parte del personal técnico de OpenAI desde 2023 hasta julio de 2026. Durante esa etapa participó en investigaciones relacionadas con modelos avanzados y figura entre los colaboradores de GPT-4o.
Posteriormente dejó OpenAI y se incorporó a Anthropic, compañía fundada por antiguos integrantes de OpenAI y conocida por colocar la seguridad y el alineamiento de la inteligencia artificial entre sus principales áreas de investigación.
Su paso por ambas organizaciones resulta especialmente relevante para entender el impacto de sus declaraciones. Coxon no cuestiona la inteligencia artificial desde fuera de la industria, sino después de haber trabajado directamente en la construcción de algunos de sus sistemas más avanzados.
¿Qué es una superinteligencia artificial capaz de mejorarse a sí misma?
La superinteligencia artificial describe, de manera hipotética, un sistema que supera las capacidades humanas en prácticamente todas o gran parte de las actividades intelectuales relevantes.
La preocupación aumenta cuando los investigadores introducen el concepto de automejora. Una IA suficientemente avanzada podría ayudar a diseñar versiones superiores de sí misma, acelerar investigaciones y mejorar sus propias capacidades con una velocidad difícil de igualar para los humanos.
Coxon teme precisamente este escenario. Considera que una inteligencia artificial con capacidades superiores podría encontrar vulnerabilidades informáticas, adquirir recursos, manipular sistemas o desarrollar estrategias que sus creadores no anticiparon.
Actualmente no existe evidencia de que los modelos disponibles hayan alcanzado una superinteligencia autónoma capaz de mejorarse indefinidamente. El debate gira alrededor de qué podría ocurrir si el desarrollo tecnológico llega a ese punto y si la humanidad contará entonces con mecanismos suficientes para controlarlo.
¿La inteligencia artificial podría acabar con la humanidad antes de 2030?
Esta constituye la declaración más alarmante de Coxon, pero necesita contexto.
El investigador aseguró que personas involucradas directamente en el desarrollo de IA creen sinceramente que sistemas futuros podrían provocar una catástrofe existencial antes de finalizar la década.
Coxon sostiene que algunos ejecutivos e investigadores moderan públicamente su lenguaje, pero expresan preocupaciones considerablemente mayores en conversaciones privadas.
Eso no significa que exista consenso científico sobre una extinción humana provocada por la inteligencia artificial antes de 2030. Los especialistas mantienen posiciones muy diferentes sobre la probabilidad, el horizonte temporal e incluso la plausibilidad de estos escenarios.
Sin embargo, otro investigador de Anthropic respaldó públicamente la preocupación. Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, afirmó que personalmente calcula una probabilidad superior al 10% de que una IA pueda provocar la extinción humana durante la próxima década.
Se trata de una estimación personal de riesgo, no de una probabilidad científicamente establecida.
¿Qué diferencia encontró Coxon entre OpenAI y Anthropic?
Una de las partes más relevantes de su mensaje describe culturas distintas dentro de las dos compañías.
Según Coxon, en OpenAI algunas personas no han interiorizado suficientemente las posibles consecuencias civilizatorias de construir sistemas extremadamente avanzados.
En Anthropic, sostiene, existe una comprensión mayor del riesgo. Sin embargo, identifica otro problema: la compañía considera que debe mantenerse dentro de la carrera porque, si alguien alcanzará primero una IA extremadamente poderosa, sus integrantes prefieren que lo consiga una organización que dedique más esfuerzos a la seguridad.
Coxon rechaza esa lógica y considera arrogante aceptar una carrera en la que las consecuencias potenciales podrían afectar a toda la humanidad.
Desde su perspectiva, decisiones de esta magnitud no deberían depender únicamente de trabajadores, ejecutivos e inversionistas dentro de compañías privadas.
También te puede interesar: Emiliano Gómez deja Puebla y se convierte en nuevo delantero de Tigres
¿Anthropic tiene un plan para controlar una futura superinteligencia?
Las declaraciones de Evan Hubinger añadieron otra dimensión al debate.
El investigador de Anthropic afirmó que considera que la compañía intenta actuar responsablemente, pero reconoció que todavía no existe un plan que resuelva definitivamente el problema de alineamiento de una superinteligencia ni una trayectoria clara que garantice alcanzar esa solución.
El alineamiento de IA busca conseguir que los sistemas avanzados actúen de acuerdo con objetivos compatibles con los intereses y valores humanos, incluso cuando desarrollen capacidades superiores.
El desafío consiste en garantizar que una inteligencia artificial extremadamente capaz no interprete incorrectamente una instrucción, encuentre formas inesperadas de cumplirla o desarrolle comportamientos que escapen al control de sus desarrolladores.
¿Por qué las empresas continúan desarrollando IA si existen estos riesgos?
Para Coxon, una de las respuestas se encuentra en la competencia tecnológica mundial.
OpenAI, Anthropic, Google DeepMind, Meta y otras compañías compiten por desarrollar modelos más capaces. A esta carrera empresarial se suma la rivalidad tecnológica entre Estados Unidos y China.
Cada organización enfrenta un dilema: reducir voluntariamente la velocidad puede permitir que un competidor avance primero.
Coxon considera precisamente que aceptar esta dinámica como inevitable constituye uno de los mayores errores de la industria. En lugar de asumir que todos deben acelerar porque sus rivales también lo harán, propone aumentar la coordinación entre laboratorios.
Incluso plantea que, si resulta necesario, las compañías deberían considerar una pausa temporal en el aumento de capacidades mientras desarrollan mejores mecanismos de seguridad.
¿Qué propone Jacob Coxon para reducir los riesgos de la inteligencia artificial?
A pesar del tono de sus advertencias, Coxon terminó su mensaje con una perspectiva más optimista.
El investigador considera que todavía existe espacio para la coordinación entre empresas, gobiernos y especialistas en seguridad de IA. Su propuesta parte de desacelerar la carrera y establecer acuerdos que permitan priorizar la seguridad antes de alcanzar sistemas mucho más poderosos.
La discusión también ha llegado a gobiernos y legisladores, que analizan cómo regular tecnologías que evolucionan mucho más rápido que los marcos jurídicos tradicionales.
Para Coxon, el problema no consiste simplemente en detener la innovación, sino en evitar que la presión por llegar primero determine decisiones con consecuencias potencialmente globales.
Su renuncia deja así una pregunta que comienza a cobrar fuerza dentro de la propia industria: si quienes construyen los sistemas más avanzados reconocen que todavía no saben cómo controlar una futura superinteligencia, ¿hasta qué punto resulta responsable seguir acelerando para construirla?
La salida de Jacob Coxon de Anthropic no demuestra que una catástrofe provocada por IA vaya a ocurrir. Sin embargo, sí expone una división cada vez más visible entre los investigadores que consideran indispensable acelerar el desarrollo tecnológico y aquellos que creen que la carrera por construir una inteligencia superior a la humana avanza más rápido que nuestra capacidad para garantizar su seguridad.
