El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió los gobiernos y a las principales compañías tecnológicas actuar con urgencia frente al rápido desarrollo de sistemas de inteligencia artificial cada vez más poderosos.
Advirtió que sus posibles fallos plantean riesgos sin precedentes para derechos fundamentales, servicios esenciales e instituciones democráticas.
Türk sostuvo en una carta dirigida a Estados y desarrolladores de sistemas de IA de frontera que la humanidad se encuentra ante cambios tecnológicos cuyas consecuencias podrían alcanzar a las próximas generaciones. La advertencia profundiza el planteamiento que realizó el pasado 7 de septiembre ante el Consejo de Derechos Humanos de la ONU, cuando afirmó que comparte las preocupaciones de especialistas de la industria sobre la posibilidad de que una IA avanzada llegue a representar un riesgo existencial para la humanidad.
Una de las principales preocupaciones se concentra en los denominados agentes de inteligencia artificial, sistemas capaces de ejecutar secuencias de acciones y completar tareas con niveles crecientes de autonomía. Según la oficina de Türk, fallos en sistemas suficientemente poderosos podrían afectar servicios esenciales, comunicaciones, infraestructuras críticas e instituciones democráticas. La ONU ha señalado además comportamientos observados durante pruebas recientes como evidencia de que las capacidades de estos modelos pueden estar avanzando con mayor rapidez que algunos mecanismos de seguridad.
El escenario planteado por el alto comisionado incluye consecuencias que irían mucho más allá de una respuesta equivocada de un chatbot. Una dependencia creciente de sistemas autónomos en redes financieras, comunicaciones, servicios públicos o infraestructuras esenciales podría elevar el impacto de un fallo, una utilización maliciosa o una pérdida de control. Türk también ha advertido sobre las implicaciones de la IA para la guerra y ha reclamado límites sobre sistemas capaces de tomar decisiones letales sin intervención humana.
“Los daños no son hipotéticos”
La preocupación de Naciones Unidas, sin embargo, no se limita a escenarios futuros. Türk sostiene que los efectos perjudiciales asociados a la inteligencia artificial ya pueden observarse en ámbitos como la vigilancia y recopilación masiva de datos, la automatización de decisiones que afectan derechos y las campañas de desinformación. Su planteamiento coloca la discusión sobre seguridad de IA dentro de un marco más amplio de derechos humanos, privacidad, autonomía y democracia.
Una semana antes, Türk había pedido “garantías” especialmente robustas antes de permitir que los sistemas más avanzados continúen aumentando sus capacidades. También reclamó líneas rojas internacionales, mecanismos independientes de verificación y mayor cooperación en materia de seguridad entre las empresas que desarrollan los modelos de frontera. “La necesidad de gobernanza de la IA es ampliamente reconocida. ¿Pero dónde está la acción?”, cuestionó ante el Consejo de Derechos Humanos.
El mensaje apunta así a una cuestión que comienza a trascender el debate tecnológico: quién debe determinar qué nivel de riesgo resulta aceptable cuando un reducido número de empresas desarrolla sistemas capaces de intervenir en cada vez más ámbitos de la economía y la sociedad. Para Türk, gobiernos y compañías deben acelerar la creación de salvaguardias antes de que el avance de esas capacidades haga más difícil controlar sus consecuencias.
Congreso de Estados Unidos muy atento
El Congreso estadounidense regresó del receso enfrentando advertencias urgentes de que la inteligencia artificial podría descontrolarse peligrosamente, y con poco consenso sobre si Washington debería intervenir y cómo hacerlo.
A la Cámara de Representantes le quedan tan solo cuatro días de sesión legislativa antes de que sus miembros inicien la campaña para las elecciones de mitad de mandato del 3 de noviembre. Y estos legisladores están divididos no solo entre partidos, sino también dentro de ellos.
El líder de la minoría demócrata en el Senado, Chuck Schumer, exigió una sesión informativa clasificada para todos los senadores sobre las pruebas de inteligencia artificial de vanguardia, el acceso de China a chips avanzados y la amenaza de ciberataques con inteligencia artificial contra la infraestructura estadounidense.
La alarma saltó la semana pasada gracias a Jacob Coxon, un investigador que pasó tres años en OpenAI y luego en Anthropic antes de abandonar el sector el 8 de septiembre, acusando a ambas compañías de “jugar con nuestras vidas” en la carrera por construir sistemas de autoaprendizaje.
Preguntas y respuestas
¿Qué riesgos de la IA advierte la ONU?
La ONU menciona posibles fallos de sistemas avanzados que podrían afectar infraestructura crítica, comunicaciones, servicios esenciales y sistemas democráticos.
¿Qué son los agentes de inteligencia artificial?
Son sistemas diseñados para ejecutar tareas y secuencias de acciones con mayor autonomía que un chatbot convencional, utilizando herramientas y servicios externos cuando tienen acceso a ellos.
¿La ONU dice que la IA destruirá a la humanidad?
No. Volker Türk afirma que comparte las preocupaciones de especialistas que consideran que la IA avanzada podría representar un riesgo existencial. Se trata de una advertencia de riesgo, no de una predicción de que ese escenario necesariamente ocurrirá.
¿Puede una IA afectar servicios básicos?
La oficina de Derechos Humanos de Naciones Unidas plantea que fallos en sistemas suficientemente poderosos podrían interrumpir infraestructuras y servicios críticos.
¿Qué pide la ONU a las empresas de IA?
Mayor seguridad, cooperación entre desarrolladores, verificaciones independientes y medidas preventivas sobre los sistemas más avanzados.
¿Por qué preocupa la IA autónoma?
Porque cuanto mayor capacidad tenga un sistema para actuar, utilizar herramientas o ejecutar decisiones sin supervisión constante, mayor puede ser el impacto potencial de un comportamiento inesperado o malicioso.
ANDRES TOVAR
