Tres de las figuras más influyentes en el desarrollo de inteligencia artificial encontraron un inesperado punto en común: la tecnología avanza demasiado rápido. Dario Amodei, CEO de Anthropic, presentó un plan para moderar el desarrollo de los modelos más poderosos y aumentar su supervisión, una propuesta que recibió el respaldo de Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI. El acuerdo de desacelerar la inteligencia artificial, resulta relevante porque las compañías que representan compiten directamente por liderar una industria que podría transformar la economía y la sociedad.
La discusión ya no gira únicamente alrededor de lo que la IA podrá hacer en el futuro. Los desarrolladores también comienzan a preguntarse si la velocidad con la que mejoran los modelos supera la capacidad de las empresas para comprenderlos, alinearlos y mantenerlos bajo control.
¿Por qué Dario Amodei quiere desacelerar la inteligencia artificial?
Dario Amodei publicó un ensayo titulado We Must Pace the Frontier, donde argumentó que las empresas necesitan reducir el ritmo al que aumentan las capacidades de los modelos de inteligencia artificial de frontera.
El CEO de Anthropic sostiene que la situación actual resulta muy diferente a la de hace tres años. Los modelos modernos pueden realizar tareas complejas, utilizar herramientas, programar y participar cada vez más en el desarrollo de nuevos sistemas.
Amodei considera especialmente importante la posibilidad de que la inteligencia artificial ayude a construir generaciones posteriores de IA. Este proceso podría acelerar todavía más el progreso tecnológico.
El empresario calcula que ganar incluso uno o dos años adicionales antes de alcanzar capacidades críticas permitiría avanzar considerablemente en seguridad y alineamiento.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Sin embargo, desacelerar no significa detener completamente la innovación. Su propuesta busca mantener el progreso mientras las medidas de seguridad avanzan al mismo ritmo que las capacidades.
¿Cuál es el plan de Anthropic para desacelerar el desarrollo de la IA?
Amodei presentó una estrategia dividida en tres grandes etapas: evaluadores externos permanentes, coordinación entre democracias y cooperación global.
El primer paso constituye el compromiso más concreto porque Anthropic puede implementarlo directamente. La empresa permitirá que especialistas independientes trabajen dentro de la compañía con un nivel de acceso similar al de empleados encargados de evaluar riesgos.
La segunda etapa requiere acuerdos entre compañías de IA de países democráticos para establecer estándares comunes de seguridad y límites verificables al desarrollo descontrolado.
Finalmente, la tercera etapa lleva el problema al terreno internacional. Estados Unidos y otras democracias tendrían que intentar alcanzar acuerdos con gobiernos de sistemas políticos diferentes para evitar que una competencia global vuelva imposible cualquier intento de desaceleración.
¿Qué harán los evaluadores independientes dentro de Anthropic?
Anthropic planea permitir que evaluadores externos tengan acceso permanente y similar al de sus empleados para analizar los sistemas y procedimientos relacionados con seguridad.
No funcionarán simplemente como consultores que reciben un modelo terminado. Amodei propone proporcionarles espacios dentro de las oficinas, computadoras corporativas, credenciales y acceso a herramientas y entornos similares a los que utilizan los equipos internos encargados de analizar riesgos.
Los especialistas podrán verificar si Anthropic realmente cumple sus compromisos de seguridad, evaluar procesos de entrenamiento, identificar incidentes y analizar el alineamiento de sus modelos.
Además, los evaluadores tendrán derecho a publicar hallazgos relevantes sin que Anthropic controle editorialmente sus conclusiones, aunque existirán restricciones para proteger información legal, comercial, de seguridad o datos confidenciales de terceros.
Amodei compara este esquema con supervisores que trabajan dentro de determinadas instituciones financieras para vigilar continuamente sus operaciones.
¿OpenAI también permitirá evaluadores independientes?
Sí. La propuesta recibió rápidamente el respaldo de Sam Altman, CEO de OpenAI, uno de los principales competidores de Anthropic.
Altman aseguró que coincide con Amodei en la necesidad de moderar el ritmo de la frontera tecnológica y reveló que este asunto ha ocupado una parte importante de las conversaciones recientes dentro de OpenAI.
Además, anunció que su compañía adoptará una de las principales medidas propuestas por Anthropic.
OpenAI también se comprometió a incorporar evaluadores independientes con un nivel de acceso similar al de empleados para supervisar sus sistemas.
La decisión resulta especialmente significativa porque las dos compañías compiten directamente por desarrollar algunos de los modelos de IA más avanzados. Si ambas implementan mecanismos similares, otras empresas podrían enfrentar presión para aumentar sus propios estándares de transparencia y desacelerar la inteligencia artificial.
¿Qué dijo Elon Musk sobre la propuesta de Anthropic?
Elon Musk también respaldó públicamente el planteamiento de Amodei.
El empresario, que participa directamente en la carrera de inteligencia artificial mediante xAI, respondió de manera breve pero contundente: “Dario tiene razón”.
La coincidencia resulta llamativa por las fuertes diferencias que existen entre Elon Musk, Altman y Amodei respecto al desarrollo y dirección de la inteligencia artificial.
Que tres competidores directos como Elon Musk, coincidan públicamente en la necesidad de reducir el ritmo muestra hasta qué punto la seguridad de la IA comienza a preocupar dentro de la propia industria.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
El debate también alcanza a otros laboratorios tecnológicos que deberán decidir si respaldan mecanismos externos de supervisión o mantienen sus propios modelos internos de evaluación.
¿Por qué las empresas de inteligencia artificial necesitan coordinarse?
El problema principal aparece cuando una compañía decide desacelerar mientras sus competidores continúan avanzando.
Una empresa que dedique más tiempo a evaluar seguridad podría perder ventaja tecnológica, clientes, inversiones y talento frente a organizaciones que prioricen lanzar modelos cada vez más poderosos.
Este fenómeno crea una especie de carrera tecnológica en la que cada participante teme reducir la velocidad porque otro podría llegar primero.
Por ello, Amodei propone que las principales compañías acuerden estándares comunes. La coordinación para desacelerar la inteligencia artificial, permitiría establecer límites sin castigar comercialmente a la empresa que decida actuar con mayor precaución.
El desafío consiste en definir exactamente qué significa “desacelerar”. Las opciones podrían incluir límites relacionados con capacidad de cómputo, características de los entrenamientos, evaluaciones obligatorias o restricciones sobre el uso de IA para desarrollar nuevas inteligencias artificiales.
También te puede interesar: De las canchas a los negocios: Alexis Vega presenta su nuevo restaurante
¿Estados Unidos y China podrían llegar a acuerdos sobre desacelerar la inteligencia artificial?
La tercera parte del plan representa probablemente el desafío más complejo.
Amodei considera que Estados Unidos y otras democracias necesitan explorar acuerdos internacionales incluso con gobiernos autoritarios, particularmente cuando determinados riesgos afectan a todos los países.
Una posibilidad consiste en establecer prohibiciones comunes sobre aplicaciones extremadamente peligrosas, como el uso de inteligencia artificial para facilitar el desarrollo de armas biológicas.
Sin embargo, cualquier acuerdo internacional necesita mecanismos para comprobar que todos los participantes cumplen las reglas.
También aparece la competencia geopolítica. Estados Unidos busca conservar su liderazgo tecnológico mientras China desarrolla sus propios modelos y empresas de IA.
Si un bloque desacelera mientras otro continúa avanzando sin restricciones, cualquier acuerdo voluntario podría fracasar.
¿Qué riesgos preocupan a los desarrolladores de inteligencia artificial?
Amodei identifica varios riesgos: pérdida de control sobre sistemas avanzados, ataques cibernéticos, utilización de IA para amenazas biológicas y fuertes alteraciones económicas.
La preocupación aumenta porque los modelos comienzan a participar en tareas relacionadas con la propia investigación y programación de inteligencia artificial.
Si una IA ayuda a desarrollar una versión superior y esa nueva generación repite el proceso, el ritmo de innovación podría aumentar considerablemente. Los investigadores denominan a esta posibilidad automejora recursiva.
No existe certeza sobre cuándo o incluso si este escenario alcanzará niveles extremos. Sin embargo, Amodei considera que esperar hasta comprobar sus consecuencias dejaría muy poco margen para desarrollar controles.
¿Realmente se frenará la carrera de la inteligencia artificial?
El respaldo público de Amodei, Altman y Elon Musk representa un cambio importante, pero todavía existe una enorme distancia entre pedir precaución y conseguir una desaceleración coordinada.
Las empresas mantienen inversiones multimillonarias, compiten por usuarios y desarrollan infraestructura para entrenar modelos cada vez mayores. Los gobiernos también consideran la inteligencia artificial un activo económico y estratégico.
Además, una coordinación entre competidores podría enfrentar obstáculos legales, incluidas normas antimonopolio, mientras un acuerdo internacional necesitaría superar las rivalidades entre Estados Unidos y China.
El gran dilema consiste en que prácticamente nadie quiere quedarse atrás, aunque algunos de quienes lideran la carrera ahora reconocen que avanzar demasiado rápido también puede representar un peligro.
Por primera vez, tres de los nombres más influyentes de la industria coinciden públicamente en una idea fundamental: desarrollar la inteligencia artificial más poderosa no debería convertirse únicamente en una competencia por llegar primero.
La discusión ahora deberá pasar de las declaraciones a compromisos verificables. Si quienes construyen los sistemas de IA más avanzados consideran necesario moderar el ritmo, la pregunta ya no es solamente qué tan poderosa será la inteligencia artificial, sino cuánto control conservará la humanidad mientras llega hasta ese punto.
