La IA, bajo la lupa de un principio clave del magisterio de la Iglesia

 

Por Walter Scheirer*

León XIV se encontró recientemente en una situación con la que muchos estudiantes de hoy pueden identificarse: someter sus escritos a pruebas para detectar indicios de uso de inteligencia artificial. Proudly Human, una empresa tecnológica que analiza obras creativas, anunció el 21 de julio de 2026 que había revisado una colección de discursos de León XIV. En general, los algoritmos para detectar inteligencia artificial no siempre son precisos. Afortunadamente para el Papa, la empresa declaró que sus escritos eran de autoría humana.

En cierto modo, era apropiado. Desde el inicio de su pontificado, León XIV ha hablado sobre los riesgos que la IA representa para amplios sectores de la sociedad. Como informático interesado en cómo las enseñanzas católicas pueden influir en la tecnología digital, he seguido de cerca sus declaraciones. En mayo de 2026 publicó su primera encíclica, Magnifica humanitas, que describe cómo la Iglesia católica debería responder a la era de la IA.

RAÍCES PROFUNDAS

Si bien la tecnología puede ser nueva, los principios que guían la perspectiva del Papa tienen raíces profundas. En particular, la encíclica invoca el concepto de subsidiariedad, un principio fundamental de la doctrina social católica que ha guiado la respuesta de la Iglesia a las transformaciones tecnológicas durante casi un siglo.

En pocas palabras, el principio de subsidiariedad significa que, siempre que sea posible, las decisiones deben ser tomadas por las personas más afectadas por ellas. Por ejemplo, un ministerio de Educación puede establecer directrices generales de evaluación, pero son las provincias y los municipios los responsables de la educación pública.

La IA influye cada vez más en la vida de las personas, nos guste o no. Sin embargo, plataformas como Gemini, Claude y ChatGPT son sistemas opacos de propiedad privada, bajo el control absoluto de las grandes empresas que las han creado. Lo que propone Magnifica humanitas es que el control de la IA esté lo más cerca posible de las personas que la utilizan.

La subsidiariedad tiene una larga historia en el catolicismo, que se remonta al papa Pío XI. En 1931 publicó una encíclica llamada Quadragesimo anno, o En el año 40.

El título hacía referencia a la primera encíclica sobre la doctrina social católica, escrita por el papa León XIII en 1891. Si bien esa encíclica anterior no mencionaba explícitamente la subsidiariedad, abogaba por la armonía entre los diferentes estratos de la sociedad, una idea que Pío XI desarrollaría posteriormente hasta convertirla en un concepto plenamente desarrollado.

Ambos textos respondían al punto de inflexión tecnológico de su época: la Revolución Industrial. Los líderes de la Iglesia estaban profundamente preocupados por una nueva forma de capitalismo sin restricciones, que dejaba a los trabajadores con pocas opciones más que trabajar en cadenas de montaje mecanizadas, bajo duras condiciones impuestas por los directivos de las empresas.

En palabras de Pío XI: «La libre competencia se ha autodestruido; la dictadura económica ha suplantado al libre mercado; la ambición desenfrenada de poder ha sucedido a la codicia; toda la vida económica se ha vuelto trágicamente dura, inexorable y cruel».

Pío XI temía que este nuevo sistema económico socavara el florecimiento humano y el bien común, y recurrió a la tradición intelectual de la Iglesia católica en busca de soluciones. Los escritos de Santo Tomás de Aquino sentaron las bases de la subsidiariedad ya en el siglo XIII, pero la Revolución Industrial impulsó a los teólogos a perfeccionar la idea y desarrollar la doctrina social católica.

Quadragesimo anno recomendaba la reestructuración de las sociedades para evitar que economías enteras cayeran en manos de unas pocas corporaciones muy poderosas. Esto implicaba salarios justos, la participación de los trabajadores en la toma de decisiones y la eliminación de la competencia desleal que expulsaba del mercado a las pequeñas y medianas empresas.

En 1932, cuando Franklin D. Roosevelt se postulaba a la presidencia, adoptó el llamado a la subsidiariedad de la encíclica. Durante un discurso en Detroit declaró que la encíclica del Papa era «tan radical como yo». Citando sus palabras, rechazó un mundo donde «un poder inmenso y una dominación económica despótica se concentran en manos de unos pocos», ideas que influyeron en sus políticas del New Deal, aunque el propio Roosevelt pertenecía a la Iglesia episcopal.

En Europa, los partidos afiliados al movimiento de la democracia cristiana lo incorporaron como un pilar fundamental de sus plataformas.

DIGNIDAD HUMANA

En los últimos años, el Vaticano ha seguido desarrollando la idea de subsidiariedad para responder a la IA y a la concentración de poder de Silicon Valley en torno a ella.

Hacia el final de su pontificado, Francisco se mostró preocupado por la IA, que, según él, influiría cada vez más en nuestra forma de vida, nuestras relaciones sociales e incluso en nuestra concepción de la identidad humana. El departamento de cultura y educación del Vaticano convocó a un grupo de académicos al comienzo del auge de la IA para debatir su impacto.

El libro que publicaron en 2023 considera la subsidiariedad como una forma de que las personas marginadas de la sociedad contribuyan a dar forma a la IA en lugar de verse perjudicadas por ella.

El libro también argumenta que la subsidiariedad puede disminuir la amenaza de la pérdida de habilidades morales: la degradación de nuestra propia capacidad de tomar decisiones al depender de chatbots. Por ejemplo, un chatbot podría configurarse para no brindar orientación si los usuarios le piden que tome decisiones sobre sus relaciones personales.

Ideas similares se plasmaron en Antiqua et nova, un documento del Vaticano publicado en 2025. Retomando la encíclica de Pío XI, publicada casi cien años antes, condena la monopolización de la IA por parte de grandes corporaciones. Recomienda que los usuarios comunes, las organizaciones sin fines de lucro, los gobiernos y los organismos internacionales también participen en la creación de tecnología que «promueva la dignidad humana» y «el bien común».

Magnifica humanitas es el intento más reciente de reconciliar los sistemas de IA con la doctrina social católica. La IA no debe «imponerse desde arriba de manera opaca y unilateral», escribe León XIV, «sino que debe orientarse hacia el bien común con transparencia, rendición de cuentas y formas significativas de participación».

EN LA PRACTICA

En el ámbito empresarial, creo que el principio de subsidiariedad requeriría alternativas a las ofertas de Silicon Valley. Algunas startups de IA, como la empresa católica Longbeard, alinean sus valores con comunidades religiosas específicas. Los proyectos de IA de código abierto podrían brindar a los usuarios un acceso transparente y reconfigurable a la tecnología. Por ejemplo, un padre podría desactivar la función de una plataforma para que no haga los deberes de su hijo ni genere imágenes sexualmente sugerentes.

Algunos líderes religiosos y científicos informáticos, incluido mi propio equipo, están desarrollando marcos de trabajo sobre cómo la ingeniería de software y el diseño de productos podrían guiarse por el principio de subsidiariedad.

El desarrollo de productos de IA generalmente implica la recopilación de datos de entrenamiento mediante la monitorización constante de los usuarios, algo que muchas personas desconocen. Sin embargo, es posible entrenar plataformas de maneras menos invasivas que otorguen a los usuarios mayor control, por ejemplo, utilizando únicamente información de dominio público.

Estos esfuerzos ponen de relieve cómo el principio de subsidiariedad podría dar voz a más personas en un mundo que la IA está transformando rápidamente.

* Catedrático de la Universidad de Notre Dame.