Un año después de su acceso al pontificado y en vísperas de su visita a España, León XIV ha publicado la encíclica “Magnifica Humanitas”, que constituye un luminoso mensaje sobre la tecnología moderna -especialmente la “Inteligencia Artificial” (IA)- no solo para la comunidad católica, sino también para todo el orbe.

Introducción  

La encíclica se sitúa en la línea marcada en 1891 por su antecesor León XIII -del que ha adoptado su nombre- con su encíclica “Rerum novarum”, que supuso un escándalo en el sector más pacato del catolicismo, que estimaba que la Iglesia no debería involucrarse en el barro de la vida terrena de sus fieles, porque “el anuncio del Evangelio no puede olvidar la vida concreta de los pueblos”. La digitalización, la IA y la robótica están transformando nuestro mundo, pero la técnica no puede construirse como una fuerza antagónica a la persona, ya que están arraigados a nuestra historia en cuanto hechos profundamente humanos, vinculados a la libertad del hombre. Hoy nos encontramos, sin embargo, con una situación nueva en la que el poder y la omnipotencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e influyen profundamente en el imaginario colectivo. “Nunca la Humanidad tuvo tanto poder sobre sí misma”. Nos corresponde asumir con honradez y responsabilidad los retos de nuestro tiempo ¿Qué dirección debe seguir la comunidad humana a este respecto?

Hay dos posibilidades que figuran en la Biblia: a) La seguida por los habitantes de Babel que construyeron una torre “cuya cúspide llegue hasta el cielo “ (Gen.11-1-8) y quisieron asegurar el poder y perpetuarse sin referencia alguna a Yavé. En lugar de la comunión y la diversidad, eligieron la homogeneización y, cuando la sociedad pretende basarse en sí misma, la comunicación se rompe y los seres humanos dejan de entenderse. b) La llevada a cabo por los habitantes de Jerusalén bajo el liderazgo de Nehemías (Ne.1-2), en la que renació la ciudad gracias la responsabilidad compartida de todo el pueblo y en la que se reconstruyeron los vínculos antes que las piedras. “La armonía renace cuando cada uno asume su parte”.

Los descubrimientos científicos son un talento entregado a la Humanidad para que los use bien. La tecnología puede curar, conectar, educar y cuidar la casa común, pero también puede dividir y generar injusticias. No es neutral porque toma el rostro de quienes la suscitan, la financian y la regulan. La elección no es entre un Sí  y un No a la tecnología, sino entre construir Babel o reconstruir Jerusalén. Hay que evitar el “síndrome de Babel”, la idolatría del lucro que sacrifica a los débiles, y la adopción de un lenguaje único excluyente. No se trata de dominar el cielo sino de que un pueblo, en presencia de Dios, se ponga a trabajar para reconstruir las murallas y a cultivar una vida común, pacífica, justa y digna. Los objetivos son edificar una ciudad, entrar en el bien común basado en la relación con Dios, aceptar los límites de la fragilidad de la Humanidad -a la que la tecnología va a librar mediante el cuidado recíproco y la solidaridad-, y construir un mundo en el que todos puedan florecer mediante la exigencia de una corresponsabilidad valiente. A cada uno le corresponde un tramo de la muralla para hacer crecer la estabilidad, la prosperidad y la paz. Hay que adoptar un lenguaje evangélico y evitar las palabras que humillan o enfrentan. No bendigamos entusiasmos ingenuos, ni alimentemos miedos. Indiquemos criterios de discernimiento -la dignidad de la persona, el destino universal de los bienes, el cuidado de la casa común y la paz- y traduzcámoslo en prácticas en las que se incluya a los más frágiles. Debemos permanecer profundamente humanos y no temer ensuciarnos las manos con las obras de nuestro tiempo. Las piedras desechadas -los pobres, los enfermos, los migrantes- se convertirán en piedras angulares y de la tierra surgirá un hogar común, sólido y hospitalario, donde prevalezca la verdad y el amor, y se besen la justicia y la paz.

Inteligencia artificial

Hay que evitar el equívoco de equiparar la inteligencia artificial con la humana, aunque aquélla imite algunas de las funciones de ésta. La IA supera a la humana  en velocidad y amplitud de cálculo, ofreciendo beneficios concretos, pero sigue ligada exclusivamente al tratamiento de datos. No tiene cuerpo, ni pasa por la alegría y el dolor; no madura las relaciones, ni conoce el amor, la amistad, el trabajo o la responsabilidad. Tampoco tiene una conciencia moral y no juzga el bien y el mal. No capta el sentido último de las situaciones, ni asume las consecuencias. Es más bien una adaptación estadística de datos, que puede ser muy eficaz, pero que no implica un crecimiento interior. Puede ser una valiosa ayuda, pero exige un enfoque prudente y cauteloso. Hay que tener en cuenta la facilidad para lograr resultados, la impresión de objetividad y la simulación de comunicaciones humanas. La velocidad y sencillez con  que se consiguen elaboraciones completas simplifican nuestras vidas, pero pueden acostumbrarnos a buscar respuestas rápidas, debilitando el juicio personal y la creatividad. La supuesta objetividad conlleva el riesgo de hacernos olvidar que la IA refleja los parámetros culturales de quien la ha proyectado y adiestrado. La comunicación humana positiva -palabras de empatía, amistad o consejo- pueden resultar gratificantes, pero no dan impresión de estar en relación con un auténtico sujeto personal, y tales palabras no construyen una relación sino una apariencia, lo que puede provocar la pérdida del deseo de buscar relaciones con el otro.

Las ventajas en materia de eficiencia de la IA en algunos servicios son evidentes, pero una aceptación rápida y acrítica nos expone a subestimar el aspecto ambiental. Resulta, por tanto, esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medio ambiente. Su uso es un hecho puramente técnico y cuando el proceso incide en la vida de las personas y afecta a sus derechos y libertades, se corre el riesgo de que se confíe en sistemas automatizados que no conocen la compasión, la misericordia, el perdón o la apertura la esperanza del individuo, pudiendo producir una forma de descarte, de la que hablaba el Papa Francisco. Confiar a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma la responsabilidad de la decisión, significa encomendar la tarea de redefinir los límites de las posibilidades humanas, lo que disminuye la empatía hacia el excluido y la responsabilidad política, porque el descarte de los débiles queda revestido de una supuesta neutralidad y objetividad ante la que se hace imposible protestar.

No podemos aceptar a la IA como moralmente neutra para calificar personas y situaciones. Se emplea para designar algunas vidas como menos dignas sin posibilidad de apelación e introduce un criterio que contradice la dignidad inalienable de las personas. Para que respete la dignidad humana y sirva al bien común, es esencial que las responsabilidades estén bien definidas en todas las etapas, desde quiénes diseñan y programan los sistemas, hasta los que los utilizan, e indiquen quiénes deben rendir cuentas –“accountability”-. Hay que fijar el código ético que debe ser usado, porque, si no, los que controlan la IA impondrían su propia visión moral. No tiene sentido pretender tener una IA más moral si la moralidad está determinada por unos pocos. La IA aumenta el poder de los que tienen más recursos económicos, competencias y acceso a los datos. Pequeños grupos muy influyentes pueden orientar información, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social. Por eso es indispensable que existan criterios claros y controles efectivos. La propiedad de los datos no se puede confiar solo al sector privado; tiene que ser reglada por el Estado y gestionados como bienes comunes y colectivos. Hay que permitir el acceso universal a la tecnología y a la formación. También hay que “desarmar” la IA y sustraerla de la competencia armamentística, y evitar los monopolios. Debe ser discutible y refutable, y restablecer la disparidad de culturas y de formas de vida. No basta con regularla, hay que hacerla acogedora.

La innovación tecnológica puede ser una forma humana de participar en el acto divino de la Creación. Para ello, los diseñadores de la IA están obligados a considerar los valores éticos y espirituales que manifiesta. Cada proyecto expresa una visión de la Humanidad, y debe ser tratado con la debida transparencia y con responsabilidad hacia las comunidades involucradas, y ser cultivado como un bien común. “La búsqueda de la verdad es esencial en una democracia; la verdad es un bien común y no una propiedad de quienes tienen poder y visibilidad”. Ferrucchio de Bortoli, director del “Corriere de la Sera”, se ha preguntado si la IA hace la vida en la tierra más humana, más digna del hombre. Puede ser un don precioso si se utiliza con discernimiento moral. No debe llevarnos a la pereza de delegar en exceso, ni se puede confiar al algoritmo la elección de quién merece o no, ni a un sistema de armas la responsabilidad de una acción militar. En el mundo digital –“un continente por evangelizar”-, hay que buscar el bien común y perseguir un principio de justicia y solidaridad. Como ha señalado el Papa, “ el diálogo con otros saberes no resta fuerza al Evangelio” y “ la búsqueda de la verdad es esencial en una democracia; la verdad es un bien común y no una propiedad de quienes tienen poder y visibilidad”.

Otros temas

La encíclica es mucho más que una carta sobre la IA, ya que es una actualización detallada de la doctrina social de la Iglesia, un atlas para comprender las convulsiones de la geopolítica y una guía para una nueva civilización. En ella ha abordado León XIV otros temas sumamente importantes.

1.-Política internacional: El Papa ha advertido contra la crisis del multilateralismo y lamentado que el Derecho haya sido sustituido por el Poder del más fuerte, que la paz haya quedado relegada en la práctica a un segundo plano, y que las instituciones creadas para custodiar el destino común de los pueblos se encuentren debilitadas, y ha pedido a la ONU que realice reformas profundas para superar la crisis de valores. Mientras la distancia entre los pueblos aumenta, se abren camino lógicas de confrontación y de agresividad y el difícil recorrido hacia un mundo más unido y fraterno sufre nuevos y dolorosos contratiempos. “La promoción del bien común nunca puede separarse del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su propio originalidad a la familia de las naciones. Cualquier intento o proyecto de eliminar o someter una nación es claramente inmoral y, por lo tanto, inaceptable”. Ha denunciado que la Humanidad se está deslizando hacia una cultura violenta del poder. “Hoy, más que nunca, es importante reafirmar el abandono de la teoría de la guerra justa, invocada con demasiada frecuencia para justificar cualquier conflicto, sin perjuicio del derecho a la legítima defensa en el sentido más estricto”. Se trata de un claro mensaje a su compatriota Donald Trump.

2.-Política interior: También ha advertido  León XIV de la creciente tendencia al autoritarismo incluso en las democracias. “Corresponde al Estado garantizar la cohesión, la unidad y una justa organización de la sociedad civil, para que el bien común puedo ser procurado con la contribución de todos […] Cuando la política renuncia a una visión a largo plazo y se reduce a cálculos de corto plazo y  a polarizaciones estériles, los discursos sobre el bien común pierden credibilidad  y, al mismo tiempo, crecen las desigualdades y las fracturas sociales”. Podría que al redactar este párrafo estuviera pensando en Pedro Sánchez, al que la advertencia le viene como anillo al dedo.

3.-Esclavitud: El Pontífice ha pedido perdón por el largo retraso de la Iglesia católica en condenar la esclavitud, calificándolo como “una herida en la memoria cristiana”. Nacido en un país en el que la esclavitud ha sido un fenómeno histórico de gran trascendencia, León XIV ha reconocido que “es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y humillación que la esclavitud ha significado para tantas personas, en contraste con la dignidad sin límites de cada una de ellas, amadas infinitamente por el Señor. Por eso, en nombre de la Iglesia, pido sincero perdón”.

4.-Familia: El Papa ha destacado una vez más la importancia de la familia y la necesidad de proteger a la mujer y a los niños. Ha advertido sobre “los fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos, y de herramientas de IA capaces de manipular imágenes y vídeos”.  Ha señalado que “tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes”. La grandeza de la persona humana no puede estar comprometida por el paradigma tecnocrático que “pretende reducirlo todo a un objeto de dominio”, en un mundo globalizado marcado por la lógica de la eficiencia, del control y del lucro.

Reacciones ante la encíclica

León XIV -que es licenciado en Matemáticas- estuvo acompañado en la presentación de la encíclica por Christopher Olah, co-fundador de la empresa Anthropic, quien alertó del riesgo de que la IA pueda sustituir la mano de obra humana y consideró la ayuda a los desplazados como un imperativo moral. Destacó que esta tecnología  podía quedarse en los países ricos, al no existir un mecanismo para compartirla con los países más desfavorecidos, por lo que instó a una mayor supervisión por los líderes religiosos, los Gobiernos y la sociedad. “Todos los laboratorios de vanguardia en IA operan dentro de un conjunto de incentivos y limitaciones, que a veces pueden entrar en conflicto con hacer lo correcto”. Aunque concebida cómo un negocio, ha encabezado la creación de una IA positiva para la Humanidad y bajo control. “Necesitamos que más sectores del mundo hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca, y ayudar a orientar los acontecimientos hacia una mejor dirección”. Olah destacó la existencia de incentivos perversos -como la necesidad de estar en la vanguardia, generar rendimiento comercial o ser los mejores científicos-, que pueden llevar a nublar la visión de lo que está bien o no en el mundo de la IA. “Por más sinceramente que cualquiera de nosotros quiera hacer lo correcto, siempre estaremos influenciados por esos incentivos”. Anthropic está enfrentado al Gobierno estadounidense, que le ha retirado acceso a su tecnología y vetado su actuación. Trump se niega a regular la IA por temor a que EEUU se quede detrás de China en el liderazgo de esta tecnología. El Papa se ha posicionado contra los excesos de Sylicon Valley y el uso de la IA en los conflictos armados. “El desarrollo y el uso de la IA en la guerra debe estar bajo las restricciones éticas más rigurosas”.

Hay otras empresas como OpenAI o Palantir. La primera -fundada por Sam Altman y Elon Musk- se creó para desarrollar una IA en beneficio de la Humanidad, que en principio era gratuita, pero que más tarde se comercializó  parcialmente, y persigue una expansión de esta tecnología sin límites. La segunda -propiedad de Peter Thiel- es aún más radical, ya que se opone a cualquier tipo de regulación de la IA y considera al Papa como el Anticristo. Los tecno-oligarcas de Silicon Valley se han mostrado radicalmente en contra de la encíclica, que ha sido en general bien recibida, y ha ido más allá de lo que cabía esperar. La Iglesia se separa así de quienes vinculan el futuro de la humanidad a una hipotética conciencia superior de las máquinas y a la posibilidad de prescindir el cuerpo para vivir en un chip. Como ha comentado Roberto Mejía, profesor de la Universidad de Salamanca, el Papa se ha mojado y su encíclica va a tener mucha repercusión, porque transciende la religión.

Según “El Mundo”, sorprende la claridad con la que León XIV se ha posicionado sobre un debate incipiente, en el que ha defendido la dignidad de la persona y los derechos humanos, y alertado del riesgo de que la tecnología se concentre en pocas manos. Su crítica a las grandes tecnológicas ha sido más explícita y profunda de lo que se esperaba. Para Jorge Bustos, es un documento que trasciende la mera actualización de la doctrina social de la Iglesia y plantea un ambicioso programa de acción, personal y política, para la salvaguardia del humanismo.  “Después de esta encíclica, no se puede decir que no sepamos cuál es el camino hacia un mundo más justo; otra cosa es que no tengamos el coraje de recorrerlo”. Según Iñaki Ellakuría, León XIV es el primer líder mundial que se ha atrevido a compartir públicamente una reflexión antropológica, valiente y honda, sobre una tecnología que está transformando radicalmente nuestras sociedades y que podría alterar la misma condición humana.

En el mismo periódico, sin embargo, Arcadi Espada ha incluido una crítica desaforada del documento, que me ha sorprendido porque lo considero una persona inteligente, aunque ignoraba que fuera tan sectario. En un supuesto diálogo con la plataforma “Claudia”, afirma que dios -con minúscula- es una IA y, de ahí, la irritación ante la competencia. Estima que el Papa niega a la IA cuatro rasgos de Dios: ser incorpóreo, inmutable, impasible y puro acto. Lo que es una cima en el caso de Dios, es una miseria en el caso de la máquina. Prevost enumera los atributos con los que la teología define a Dios y los presenta como las razones por los que la IA no puede llamarse ni inteligencia, ni persona. “Cree humillar a la máquina y está humillando a Dios”. Se basa en el Génesis 11-6: “He aquí que son un solo pueblo con una sola lengua y esto es lo que ha empezado a hacer; ahora nada de lo que se propongan les será imposible”.  No hay reproche moral. Babel no es el mito del castigo al orgulloso, sino el mito del “copyright” divino. “Prevost denuncia a las tecnológicas la conducta que su Dios inaugura en el Génesis”. Es una encíclica antihumana, “un eructo de pesimismo y rencor ante la obra del hombre”. ¿No hay reproche? Espada no cita el resto del texto: “Confundamos su lengua de modo que no se entiendan unos a otros. Y los dispersó de allí por toda la faz de la tierra, y así cesaron de edificar la ciudad”. Como han observado Eloíno Nácar y Alberto Colunga en la “Sagrada Biblia”, el relato presenta a los hombres ensoberbecidos por su fuerza y su unidad, por tener una sola lengua, y “Dios los castiga confundiendo su lengua y obligándolos a dispersarse”.

Sánchez se acoge a la sombra del Papa

Además de ateo, Sánchez es radicalmente anticatólico y ha sido el político de la democracia que más ha atacado a la Iglesia y atentado contra sus principios. Ha legalizado la eutanasia, los matrimonios homosexuales y el aborto libre, y ha propuesto la modificación de la Constitución por la puerta trasera para considerar el aborto como un derecho fundamental. Ha potenciado el laicismo en las relaciones Iglesia-Estado, discriminado a los colegios concertados y limitado la enseñanza de la religión católica en la escuela pública, mientras promocionaba la enseñanza de la islámica. No asistió al funeral del Papa Francisco, ni a la toma de posesión de León XIV, y no ha asistido a los funerales por las víctimas de la dana de Valencia o del accidente ferroviario de Adamuz, ni a los de funcionarios muertos en acto de servicio, pero -por pura conveniencia- asistirá a la misa en la Sagrada Familia, porque “Barcelona bien vale una misa”. Según Francisco Pascual, el incrédulo Sánchez se ha agarrado como un monaguillo a las faldas de la sotana del Papa, porque a ambos les une la facultad de dispensar bondad por todo el planeta. “! Qué mayor ilusión puede tener el Vaticano que convertir al sucesor de San Pedro en un ladrillo del muro antifascista”. Tú Eres Pedro y sobre esta piedra edificaré mi reino. Para Bustos, León XIV está donde está Pedro y fastidia a la derecha, ver cómo el Papa se ha pasado a su lado del muro, habla de tecno-oligarcas como Pedro, defiende la paz como Pedro y hasta se maneja bien en inglés como Pedro.

Además de ser el Sumo Pontífice de los católicos, EL Papa es el jefe de un micro-Estado y, si bien en el ámbito religioso no coincide en nada con Sánchez, en el político sí tiene cierta sintonía en la lucha contra la pobreza, la IA, la defensa de la paz, o la migración. Pero, incluso en esta última, la coincidencia no es total.  León XIV ha mantenido que los Estados tienen derecho a regular y controlar sus fronteras y a limitar el número de inmigrantes que pueden acoger. “No todos pueden entrar como sea, sin orden, creando situaciones injustas como las que dejaron atrás”, si bien, una vez que han llegado, merecen el respeto que corresponde a todos los seres humanos por su dignidad, y no pueden ser tratados peor que los animales. Sánchez trata de transformar una exhortación a la caridad cristiana en un sello de aprobación a su política migratoria. Pretende utilizar el prestigio del Papa para legitimar una regularización masiva e incondicional. “Es un orgullo ver cómo el Papa en sus mensajes defiende los valores que también guían la política migratoria del Gobierno de España” (¿?).

Sánchez ha forzado una entrevista con León XIV para tratar de su viaje a España, presentándose como su anfitrión mostrando menosprecio del Rey, que es quien lo ha invitado. Su foto con el Papa -que está como ÉL en el lado correcto de la Historia- quedó estropeada por el registro por la policía de la sede del PSOE. El presidente de la Conferencia Episcopal, Luis Argüello, ha invitado a un ”alto el fuego” y a desarmar el lenguaje en el Congreso, para que todos podamos ser tocados por sus palabras. “Quiera Dios que esta visita tan singular inaugure una nueva etapa […], que busque la manera de revitalizar el prestigio de las Cortes y la salud de nuestra democracia”.