En una época caracterizada por la sobreabundancia de información de diversa magnitud, desde una banalidad a una guerra nuclear, y en la que algunas noticias pueden quedar ocultas, el Vaticano dio a conocer de manera oficial el 25 de mayo la primera encíclica de León XIV, llamada Magnifica Humanitas, que había firmado unos días antes. Ésta aborda el tema de la irrupción de la inteligencia artificial o “Revolución Algorítmica”, en nuestras vidas y reflexiona, mediante preguntas y planteos sobre sus consecuencias. Ya desde el inicio es importante ver un alto valor simbólico, porque establece un paralelo explícito con la encíclica de 1891, Rerum Novarum (Cosas Nuevas), que en plena época de la revolución industrial emitió su predecesor en el nombre, León XIII.
En aquel documento se planteaba el tema del capital y el trabajo, cómo proteger la dignidad humana en una sociedad que estaba siendo reorganizada por nuevas fuerzas económicas y tecnológicas. La actual parece responder a otra revolución y es la de los sistemas de inteligencia artificial y todo lo que esto ya no solo representa como futuro, sino como realidad y lo que puede significar par la esencia del ser. Probablemente, al igual que la Rerum Novarum, marcará una época y será recordada como uno de los grandes documentos antropológicos, y por qué no políticos, en los inicios de la era algorítmica. Es importante señalar que no se trata de una condena tecnofóbica, como algunos aun sin leerla han insinuado, ya que reconoce las enormes posibilidades de la tecnología, sino que señala otros aspectos. Con suma precisión advierte sobre la emergencia de una civilización donde la atención, la percepción y la conciencia humana comienzan a ser organizadas por sistemas diseñados para capturar el comportamiento, y entonces ya no se trata simplemente de la tecnología, y reducir a esto el debate o la reflexión, sino cuál es el ser humano que participará en estos nuevos paradigmas, y en particular cuál quedará excluido.
Concretamente, la cuestión central ya no es qué puede hacer la inteligencia artificial, sino qué ocurre con el ser humano cuando vive inmerso en entornos construidos para disputar permanentemente su atención, anticipar sus reacciones y modular su conducta, es decir habla de nosotros, y se pregunta cuál será nuestro lugar en este nuevo contexto. Cuál será el riesgo de vivir en una civilización donde la atención humana se convierte en el recurso más disputado del planeta, ya que detrás del debate sobre algoritmos y tecnología existe una cuestión mucho más profunda: quién organiza y cómo lo hace nuestra percepción del mundo y por ende quién y cómo se organizan y estructuran nuestros comportamientos. En definitiva, como ya nos avisaron hace pocos años: ¿Cuál será la nueva normalidad?
¿CRISIS ONTOLOGICA?
No se trata de qué peligros corremos, al estilo de viejas películas de ficción, con la “dominación de las máquinas”, sino cuál es el ser que se está diseñando con estos cambios, quizás una forma de cambio de paradigma en el cual el transhumanismo no sea solo adaptarnos a implantes, “extensiones”, sino una auténtica crisis ontológica: la mutación de la esencia misma de lo humano.
Durante gran parte de la historia, el poder se ejercía sobre cuerpos, territorios y recursos materiales. Hoy, el verdadero campo de batalla es la percepción y la atención: nuestra mente.
Quien captura la atención adquiere la capacidad de colonizar de forma consecutiva la emoción, la memoria, el consumo y, en última instancia, la identidad. El documento pontificio percibe que el peligro contemporáneo no radica en las máquinas, sino en la progresiva reducción de la persona a un conjunto estandarizado de datos, métricas y patrones probabilísticos. Que en lugar de personas seamos números. La historia ya conoce algo de ello. Es la instauración de una cultura donde el ser humano comienza a ser evaluado según criterios de optimización técnica. Lo que está en juego es la sustitución de la ontología del sujeto por la ontología del dato.
Diversos aspectos de Magnifica Humanitas permiten establecer interesantes paralelos con autores que, desde tradiciones muy distintas, anticiparon estas ideas. La preocupación por los entornos tecnológicos que terminan modelando formas de pensamiento recuerda la célebre formulación de Marshall McLuhan según la cual “el medio es el mensaje”. La advertencia acerca de sistemas que reorganizan la experiencia humana puede dialogar con Martin Heidegger y su idea de que el mayor riesgo de la técnica no consiste simplemente en la aparición de nuevas herramientas, sino en la transformación de nuestra manera de habitar el mundo. También con Hannah Arendt y su preocupación por el reemplazo del pensamiento por automatismos, o Byung-Chul Han acerca del agotamiento psicológico y la hiperestimulación permanente. León XIV, si bien no los cita, parecería inscribirse, dentro de esa tradición crítica.
Las plataformas digitales actuales han dejado de operar como herramientas neutras de comunicación; funcionan como sistemas que modulan la conducta. Y esto debe ser rescatado como concepto, ya que por supuesto todos estos modelos, son presentados como avances y mostrando aspectos en los cuales esa palabra suena evidente, pero solo si no se consideran otras consecuencias. La economía digital ha capitalizado un principio básico de la neurobiología evolutiva: el cerebro no presta atención de manera neutral. Filogenéticamente, sobrevivimos detectando amenazas antes que contemplando la serenidad. Por ello, la mente responde con mayor intensidad ante el conflicto, la indignación, el miedo, el tribalismo, la hiperestimulación, y el escándalo. Lo que las ciencias cognitivas de Daniel Kahneman y Amos Tversky tipificaron como atajos heurísticos ante estímulos emocionales, la economía de plataformas lo transformó en arquitectura industrial.
Un caso es el fenómeno del bait, o señuelo emocional, que es ingeniería neurocognitiva a escala masiva. Al someter la mente a flujos ininterrumpidos de estímulos breves e intensos, se precipita una fragmentación severa de la atención. Las consecuencias clínicas son visibles: disminución de la concentración profunda, intolerancia al aburrimiento, ansiedad basal, pensamiento reactivo y dificultad para sostener reflexiones complejas. Emergemos así a una paradoja extraordinaria: nunca existió tanta información disponible y, al mismo tiempo, tanta dificultad para construir pensamiento integrado. Sabemos cada vez más cosas superficiales y comprendemos cada vez menos profundamente.
Esta realidad marca una ruptura epistemológica con la propaganda clásica del siglo XX. Si Gustave Le Bon y Edward Bernays operaban sobre grandes masas homogéneas mediante la repetición de consignas, los sistemas actuales actúan a velocidad algorítmica e individualizada. El “usuario” se transforma en un “objeto de predicción” a través de la micro captura atencional. Ya no hace falta censurar una idea; basta con saturarla, invisibilizarla o diluirla en un flujo infinito de estímulos. El individuo queda perdido, diluido en ese océano de estímulos.
LA GRAN ENCRUCIJADA
En el cenit de este proceso aparece el “gemelo digital”, modelos capaces de reconstruir perfiles psicológicos colectivos para anticipar y orientar conductas en tiempo real. En este contexto actual adquiere sentido la experiencia global de la pandemia que operó como un ensayo general de este escenario de vigilancia cognitiva. Vemos cuadros clínicos de salud mental, pero también un cambio en la condición humana. Lo crucial es que este fenómeno no requiere de una conspiración centralizada. Emerge de la convergencia entre la eficiencia administrativa, la lógica de mercado y la automatización. No hace falta maldad explícita para producir estructuras deshumanizantes; alcanza con diseñar sistemas orientados exclusivamente a maximizar la previsibilidad y el control. Quizás ese sea el peligro de la “banalidad del mal”.
Frente a esto, Magnifica Humanitas articula una preocupación antropológica: la erosión de la autonomía psicológica. La gran encrucijada de nuestro tiempo no es si las máquinas llegarán a pensar como humanos, sino el riesgo inminente de que los humanos comiencen progresivamente a vivir, decidir y reaccionar como máquinas, privilegiando la reacción sobre la reflexión y la aceleración sobre la contemplación. La batalla por la atención es, en su raíz más honda, la batalla definitiva por la preservación de la interioridad y la libertad de la conciencia humana.