El Papa Francisco y la ‘dictadura tecnológica’ de la Inteligencia Artificial
Aunque tuvo pocas repercusiones en nuestro país, el primer día del año el Papa Francisco difundió un mensaje que resonó alto en el mundo tecnológico: propuso una serie de acuerdos globales para “salvaguardar nuestra humanidad” frente al avance vertiginoso de la inteligencia artificial (IA).
Su llamado a una acción internacional se dio en el marco del Día Mundial de la Paz que celebra todos los 1° de enero la Iglesia Católica, cuyo mensaje, titulado “Inteligencia Artificial y Paz”, tradicionalmente se envía a líderes mundiales y jefes de instituciones como las Naciones Unidas.
Abogando por una concordancia entre el avance tecnológico y los valores humanos, Francisco expresó la urgencia de un tratado vinculante para regular la IA: "Insto a la comunidad global de naciones a trabajar juntas para adoptar un tratado internacional vinculante que regule el desarrollo y uso de la inteligencia artificial en sus múltiples formas", escribió Francisco en su mensaje. A su vez, advirtió sobre la “escala global” de la inteligencia artificial. Para el Sumo Pontífice, la IA deja claro que, junto a la responsabilidad de los estados soberanos de regular su uso internamente, “las organizaciones internacionales pueden desempeñar un papel decisivo en la consecución de acuerdos multilaterales y la coordinación de su aplicación y cumplimiento".
Otra de las aplicaciones de la IA que más preocupan al Papa de acuerdo a su mensaje es el uso de esta innovación en sistemas de armas, en línea con sus frecuentes críticas a la industria armamentística. Desde esta perspectiva, advirtió que su uso podría llevar a una catástrofe global. "La investigación sobre tecnologías emergentes en el área de los llamados Sistemas de Armas Autónomas Letales, incluida la militarización de la inteligencia artificial, es motivo de grave preocupación ética. Los sistemas de armas autónomos nunca pueden ser sujetos moralmente responsables", dijo. El problema para el Papa reside en la ausencia de "capacidad humana única para el juicio moral y la toma de decisiones éticas", que no pueden ser dejadas a las máquinas: "es imperativo asegurar una supervisión humana adecuada, significativa y consistente de los sistemas de armas".
Quizás el término más fuerte utilizado por el Papa en su mensaje tiene que ver con la “dictadura tecnológica”: "En un deseo obsesivo de controlarlo todo, corremos el riesgo de perder el control sobre nosotros mismos; en la búsqueda de una libertad absoluta, corremos el riesgo de caer en la espiral de una dictadura tecnológica".
Por último, el mensaje del Vaticano generó lógicamente repercusiones en el ámbito internacional, lo cual llevó al cardenal Michael Czerny, jefe de la oficina de Desarrollo Humano del Vaticano, a expresar que, si bien el Papa tiene 86 años, "no es un ludita", en relación al movimiento decimonónico contra la mecanización de las fábricas, especialmente las textiles. Czerny agregó que el Papa aprecia el progreso tecnológico y científico que sirve a la humanidad, pero que estaba particularmente preocupado por la IA porque es "quizás la apuesta más alta para nuestro futuro".
El mensaje del Papa instando a una acción global para controlar la IA seguramente traerá más repercusiones con el correr de los días. Su advertencia sobre el escrutinio ético de los propietarios y desarrolladores, alertando sobre su potencial riesgo para la supervivencia humana y la estabilidad del planeta, podría marcar un hito significativo en el desarrollo de esta tecnología en el año que comienza.