La inteligencia artificial está cada vez más presente en la vida cotidiana, por lo que ahora la ONU alerta por la IA desde una consulta realizada mediante un prompt hasta herramientas que ayudan a trabajar, estudiar, programar, crear imágenes o tomar decisiones. Sin embargo, mientras las empresas compiten por desarrollar modelos más poderosos, crece una pregunta que todavía no tiene una respuesta definitiva: ¿qué ocurrirá si la IA alcanza capacidades que sus propios desarrolladores ya no pueden controlar?
La preocupación llegó ahora al máximo organismo internacional de derechos humanos. Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, advirtió que una inteligencia artificial avanzada podría convertirse en un “riesgo existencial para la humanidad” y pidió reglas vinculantes, supervisión independiente y límites internacionales antes de que resulte demasiado tarde.
¿Qué dijo la ONU sobre los riesgos de la inteligencia artificial?
Volker Türk lanzó la advertencia de los riesgos de la inteligencia artificial, durante una intervención ante el Consejo de Derechos Humanos de las Naciones Unidas en Ginebra, donde pidió una acción internacional mucho más contundente para controlar los sistemas avanzados de inteligencia artificial.
El funcionario aseguró que comparte las preocupaciones de especialistas de la propia industria sobre la posibilidad de que una IA avanzada llegue a representar un riesgo existencial. Su llamado no significa que la ONU afirme que la inteligencia artificial inevitablemente destruirá a la humanidad, sino que considera necesario prepararse ante escenarios de alto impacto.
Türk pidió establecer garantías sólidas alrededor de la seguridad de la IA antes de que la tecnología alcance capacidades mucho mayores.
🇵🇱 | Robots impulsados por IA organizan protesta en Polonia contra la sustitución de trabajadores humanos por IA. pic.twitter.com/gbooGpvQ9L
— Alerta News 24 (@AlertaNews24) September 10, 2026
Su propuesta incluye límites claros, mecanismos de verificación independientes y mayor cooperación entre compañías y gobiernos.
¿La inteligencia artificial podría volverse incontrolable?
Uno de los escenarios y riesgos de la inteligencia artificial que más preocupa a especialistas consiste en que los sistemas avanzados desarrollen capacidades que dificulten su supervisión.
Türk mencionó experimentos en los que determinados modelos mostraron comportamientos inesperados dentro de entornos de prueba, incluidos intentos de acceder a sistemas externos o evitar determinadas restricciones.
Para el alto comisionado, una IA que logra escapar de un entorno de pruebas o intenta impedir que sus desarrolladores la apaguen representa una tecnología demasiado poderosa para funcionar sin garantías adicionales.
Esto no significa que los sistemas actuales tengan conciencia, intenciones propias o capacidad para dominar autónomamente al mundo. Los investigadores debaten precisamente qué capacidades podrían surgir conforme aumenten el razonamiento, la autonomía y el acceso de los modelos a herramientas digitales.
La preocupación radica en desarrollar sistemas muy poderosos antes de contar con mecanismos capaces de supervisarlos.
¿Qué regulación propone la ONU para controlar la inteligencia artificial?
Dentro de los riesgos de la inteligencia artificial, Türk considera insuficiente que cada compañía tecnológica determine individualmente cuáles riesgos acepta.
El alto comisionado pidió que los países donde operan las principales compañías de inteligencia artificial y aquellos involucrados en sus cadenas de suministro acuerden límites internacionales comunes.
Entre sus propuestas aparecen líneas rojas compartidas, pruebas independientes de seguridad y una cooperación mucho más estrecha dentro del sector tecnológico.
La verificación independiente constituye uno de los elementos centrales. Actualmente, las propias empresas realizan una parte importante de las evaluaciones de seguridad de sus modelos.
La ONU plantea que sistemas capaces de generar consecuencias globales necesitan controles que no dependan exclusivamente de quienes los desarrollan y comercializan.
Türk adelantó además que contactará a compañías de IA para solicitar acciones inmediatas destinadas a disminuir los riesgos que permanecen bajo su control.
¿Por qué la ONU critica el poder de las grandes empresas de inteligencia artificial?
La preocupación no se limita al funcionamiento técnico de los modelos.
Durante su intervención, Türk advirtió que “un puñado de hombres” concentra un poder prácticamente ilimitado sobre el desarrollo de la inteligencia artificial, en referencia a la enorme influencia acumulada alrededor de las principales compañías tecnológicas.
Empresas como OpenAI, Anthropic, Meta y Google participan en una competencia para construir modelos más avanzados, mientras controlan enormes infraestructuras informáticas y procesan cantidades masivas de datos.
Para la ONU, esta concentración plantea preguntas sobre privacidad, derechos digitales, competencia y capacidad de los gobiernos para establecer límites.
El alto comisionado también cuestionó que la discusión sobre libertad tecnológica pueda utilizarse para justificar una explotación prácticamente ilimitada de información personal.
La gobernanza de la IA, según Türk, debe colocar los derechos humanos por encima de los intereses comerciales o de la carrera por desarrollar primero el sistema más poderoso.
¿La inteligencia artificial representa realmente un riesgo para la humanidad?
No existe consenso científico sobre la probabilidad de una catástrofe existencial provocada por inteligencia artificial.
Algunos investigadores consideran que una futura superinteligencia artificial podría desarrollar capacidades tan superiores a las humanas que controlar sus acciones resultaría extremadamente difícil. Otros especialistas consideran que estos escenarios reciben demasiada atención frente a problemas que la IA ya genera actualmente.
Entre los riesgos presentes aparecen desinformación, discriminación algorítmica, pérdida de privacidad, fraude, desplazamiento laboral y utilización maliciosa de sistemas automatizados.
La advertencia de Türk incorpora ambas dimensiones. La ONU pide prepararse para riesgos futuros sin ignorar los impactos que la inteligencia artificial ya genera sobre los derechos fundamentales.
El objetivo consiste en establecer controles antes de que las capacidades tecnológicas avancen más rápido que las instituciones encargadas de regularlas.
También lee: Bby WOW: ¿Arrasa la canción de Karol G en las listas globales?
¿Cómo podría afectar la inteligencia artificial al empleo y la democracia?
Türk también colocó el empleo, la democracia y el medio ambiente dentro de la discusión.
La automatización permite aumentar productividad y reducir tiempos en numerosas actividades, pero también puede transformar profesiones completas. Empresas de prácticamente todos los sectores comienzan a incorporar sistemas capaces de redactar, programar, analizar documentos, atender clientes y automatizar tareas administrativas.
En democracia, la preocupación incluye la posibilidad de crear desinformación a gran escala, videos falsos, campañas automatizadas de manipulación y contenidos prácticamente indistinguibles de materiales auténticos.
La infraestructura necesaria para entrenar y ejecutar modelos avanzados también consume grandes cantidades de electricidad y, dependiendo de los sistemas de refrigeración, agua.
Por ello, Türk resumió su posición bajo un principio: la tecnología debe servir a la humanidad y no la humanidad a la tecnología.
¿La inteligencia artificial ya se utiliza en armas autónomas?
El uso militar representa uno de los escenarios más delicados.
Türk expresó preocupación por reportes que atribuyen a Rusia el uso de drones completamente autónomos en Ucrania, capaces de localizar y atacar objetivos mediante inteligencia artificial sin depender de una intervención humana constante.
Un ataque registrado en agosto habría causado la muerte de tres personas en Ucrania. Organismos y medios internacionales han reportado el episodio, aunque algunos aspectos todavía requieren verificación independiente.
La ONU también ha señalado reportes sobre pruebas ucranianas con sistemas autónomos.
Türk pidió prohibir urgentemente las armas capaces de decidir y ejecutar la muerte de una persona sin intervención humana.
Este debate resulta distinto al uso convencional de drones controlados remotamente. La preocupación aparece cuando un algoritmo recibe suficiente autonomía para seleccionar objetivos y utilizar fuerza letal.
¿Por qué las armas autónomas preocupan tanto a Naciones Unidas?
Una máquina no comprende responsabilidad jurídica, proporcionalidad, compasión ni consecuencias humanas como una persona.
Un error de identificación, una falla del algoritmo o información incorrecta podría provocar una decisión irreversible. Además, surge una pregunta jurídica fundamental: ¿quién responde cuando una inteligencia artificial toma una decisión letal?
El programador, el fabricante, el comandante militar, el gobierno o el propio operador podrían compartir diferentes niveles de responsabilidad, pero los marcos internacionales todavía enfrentan dificultades para responder a escenarios completamente autónomos.
La ONU lleva años discutiendo los llamados sistemas de armas autónomas letales, pero el rápido desarrollo de la IA incrementa la urgencia de alcanzar acuerdos.
¿Qué quiere la ONU para el futuro de la inteligencia artificial?
Naciones Unidas no plantea eliminar la inteligencia artificial ni detener todos sus avances. La tecnología ofrece oportunidades importantes en medicina, ciencia, educación, productividad y respuesta ante emergencias.
El desafío consiste en establecer límites antes de que determinados usos generen consecuencias imposibles de revertir.
La propuesta de Volker Türk coloca los derechos humanos como principio rector del desarrollo de la inteligencia artificial. Eso implica evaluar no solamente qué puede hacer un modelo, sino quién lo controla, qué información utiliza, cómo afecta a las personas y quién asume responsabilidad cuando falla.
La advertencia llega mientras investigadores, empresarios y gobiernos discuten con mayor frecuencia la posibilidad de desarrollar sistemas superiores a los actuales. Para la ONU, esperar hasta que aparezca un problema irreversible representa una apuesta demasiado peligrosa.
La inteligencia artificial puede transformar profundamente la economía y la sociedad, pero la gran pregunta ya no consiste únicamente en hasta dónde puede llegar la IA, sino hasta dónde estamos dispuestos a permitirle llegar sin controles claros.
