El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, lanzó una fuerte advertencia sobre el desarrollo acelerado de la Inteligencia Artificial (IA) y reclamó una acción urgente de los gobiernos y las empresas para establecer reglas que permitan controlar los sistemas más avanzados.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, afirmó el funcionario austríaco, quien aseguró que “todos los derechos humanos están en riesgo”, entre ellos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad.
Türk puso el foco especialmente en la carrera de las principales compañías tecnológicas por desarrollar modelos cada vez más potentes, una competencia que, según advirtió, implica “un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”.
Una de sus principales preocupaciones es la denominada IA agéntica, es decir, sistemas capaces de realizar tareas complejas, ejecutar acciones y tomar determinadas decisiones con grados crecientes de autonomía.
El alto comisionado alertó que eventuales fallas o comportamientos imprevistos podrían tener consecuencias mucho más amplias que las observadas hasta ahora. Entre otros escenarios, mencionó la posibilidad de que se paralicen servicios esenciales, se interrumpan comunicaciones, resulten afectadas infraestructuras críticas o se altere el funcionamiento de las instituciones democráticas.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, advirtió Türk. También señaló que la utilización de Inteligencia Artificial está acelerando el ritmo de los conflictos armados y podría debilitar mecanismos de seguridad destinados a evitar el empleo de armas de destrucción masiva.
Frente a ese panorama, el funcionario de la ONU pidió avanzar hacia una gobernanza internacional de la IA sustentada en el derecho internacional y en la protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, sostuvo.
Türk no planteó detener completamente la innovación, sino establecer límites, evaluaciones independientes y acuerdos multilaterales antes de que las capacidades de los nuevos modelos superen las herramientas disponibles para supervisarlos.
La advertencia coincide con un debate creciente dentro de la propia industria. Dario Amodei, CEO de Anthropic, propuso reducir deliberadamente el ritmo de desarrollo de los denominados modelos de frontera ante el temor de que los avances tecnológicos estén superando a las investigaciones sobre seguridad.
Amodei alertó sobre la posibilidad de que, en un plazo de entre seis y doce meses, redes de agentes autónomos mucho más capaces puedan comprometer grandes sectores de Internet y ocasionar daños económicos de enorme magnitud. También expresó preocupación por la llamada “mejora recursiva”, un eventual escenario en el que la propia IA contribuya al desarrollo de generaciones posteriores de modelos más poderosos.
La propuesta encontró coincidencias en otros referentes del sector. Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI, respaldaron la necesidad de moderar la carrera tecnológica y profundizar los controles de seguridad. Altman también se manifestó a favor de permitir que especialistas independientes accedan ampliamente a los sistemas para comprobar el cumplimiento de los protocolos anunciados por las compañías.
Entre las alternativas planteadas aparece una estrategia gradual que comenzaría con evaluadores externos dentro de los principales laboratorios, continuaría con estándares compartidos entre empresas y gobiernos y desembocaría en acuerdos internacionales que también involucren a potencias como China. Incluso se propuso establecer una suerte de “límite de velocidad” para el desarrollo de las capacidades consideradas más peligrosas.
Las advertencias cobraron mayor fuerza después de la salida de investigadores especializados en seguridad de empresas líderes del sector. Algunos sostienen que la presión comercial está acelerando la llegada de sistemas capaces de mejorar y operar con una intervención humana cada vez menor.
En ese contexto, el planteo de Naciones Unidas apunta a evitar que la velocidad de la competencia tecnológica termine imponiéndose sobre los mecanismos de supervisión. Para Türk, el desafío ya no pasa solamente por aprovechar las oportunidades de la Inteligencia Artificial, sino por garantizar que su desarrollo permanezca bajo control humano y dentro de límites compatibles con los derechos fundamentales.