El Papa alerta sobre la inteligencia artificial: "Ningún algoritmo puede hacer que la guerra sea moral"

RomaLa inteligencia artificial (IA) "no es neutral", sino "una forma inédita de colonialismo" que reduce a las víctimas a datos para nutrir a quienes están detrás de esta tecnología, advierte el papa León XIV en su primera encíclica, el documento papal de más relevancia. Un escrito muy esperado, que recoge los principios que guiarán su pontificado y que por primera vez en la historia ha presentado el mismo Papa en un acto, este lunes, en el Vaticano.

A Magnifica humanitas ("La grandeza de la humanidad", en latín), el pontífice reflexiona sobre la doctrina social de la Iglesia en la era de la IA y dedica una profunda reflexión a la protección de la dignidad humana, en la que alerta del peligro de que esta tecnología "se concentre en pocas manos". En el texto, Robert Prevost hace un llamamiento a proteger “la magnífica humanidad habitada por Dios”, promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz. En la era digital, escribe el Papa, hay que desarmar la IA y superar la teoría de la “guerra justa”, abogando en su lugar por el diálogo y el multilateralismo para alcanzar la paz. "No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable", condena.

Dividida en cinco capítulos, Magnifica humanitas parte de un principio concreto: la tecnología no es "un mal en sí misma" pero tampoco es "neutral", porque depende directamente de quien la concibe, la financia, la regula y la utiliza. Por ello, León XIV insiste en que la IA no puede concentrarse en manos de unos pocos y alimentar la brecha entre los incluidos y los excluidos de la revolución digital, y señala la necesidad de desarrollar un código ético compartido sometido a criterios de justicia social. "No sirve una IA más moral si esta moral la deciden unos pocos", subraya.

Siguiendo los pasos de la Rerum novarum de León XIII, el Papa quiere actualizar en su encíclica la doctrina social de la Iglesia ante uno de los principales retos de la época contemporánea: la IA. El Santo Padre afirma que hay que "desarmarla" para sustraerla de los monopolios e impedir que domine al ser humano porque la alternativa no se encuentra entre el entusiasmo y el miedo, sino entre dos formas de construir el progreso: al servicio de la persona y de los pueblos o de las lógicas de poder.

Las guerras híbridas y la manipulación digital

, el Papa ha invitado a Christopher Olah, cofundador de la Según León XIV, la tecnología no hace menos inhumano el conflicto, solo puede hacerlo más rápido e impersonal, rebajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, y alimenta así "una cultura en la que el enemigo queda reducido a un dato y la víctima a un daño colateral". Así –continúa el pontífice– "nos acostumbramos a la idea de que la violencia es inevitable y solo hay que optimizarla".

León XIV recuerda en el documento que las actuales guerras “híbridas” –"ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas"– en el mundo afectan tanto a los ámbitos económicos y financieros como informáticos, y se aprovechan del miedo y la desinformación para influir en la opinión pública. Además, presentan "el aumento del gasto militar como la única respuesta a un futuro incierto"; una política que el pontífice considera "irresponsable" y que solo sirve para crear la falsa idea de que la guerra es inevitable y “calificar la paz de utópica”.

En lo que llama "la Babel moderna", León XIV lamenta la existencia de "imperialismos contrapuestos entre potencias que quieren conservar su primacía y potencias que aspiran a conquistarla, con una multiplicidad de conflictos locales". El Papa denuncia que para algunos gobernantes la guerra es un instrumento de “gestión cínica” de las dificultades, así como una manera de desviar la atención de los problemas internos.

En la presentación de Magnifica humanitas, el Papa ha invitado a Christopher Olah, cofundador de la start-up Anthropic y director de investigación sobre la interpretabilidad de la IA. Norteamericano como el pontífice, Olah se enfrentó a la administración de Donald Trump al prohibir el uso de la tecnología desarrollada por su compañía para fabricar armas autónomas y crear sistemas de vigilancia masiva.

Invitación a frenar la deshumanización

El jefe de la Iglesia católica afirma que la cultura del poder "penetra en la sociedad, modifica las relaciones y los comportamientos, se expande normalizando la guerra, persiguiendo un poder militar cada vez mayor, aprovechándose de la crisis del multilateralismo y alimentando un falso realismo, el cual repite que no existen alternativas". Y además, añade, "las redes de comunicación, los entornos informativos fragmentados y los algoritmos que premian el enfrentamiento pueden amplificar la polarización y el resentimiento". En este sentido, el Papa propone establecer “restricciones éticas rigurosas, compartidas a escala internacional, basadas en la responsabilidad personal y en la protección de los civiles”.

Pero, además, Robert Prevost también denuncia a quien utiliza el nombre de Dios para legitimar la guerra, la violencia o el terrorismo y relanza el diálogo interreligioso, y convida a los cristianos a construir “la civilización del amor”, a responder a esta cultura del poder frenando la deshumanización con pequeños actos y a cultivar un “sano realismo” que busque vías de paz viables con hechos, no solo con palabras.

Finalmente, el pontífice define la transición digital como una “cuarta revolución industrial” y advierte sobre la necesidad de proteger la dignidad y el valor del trabajo para luchar contra la creciente pobreza y desigualdad provocada por sistemas automatizados que han sustituido al hombre. En este sentido, la IA es, en definitiva, “un poder nuevo”, escribe, que corre el riesgo de discriminar a los más débiles y generar nuevas formas de esclavitud, como la de quien trabaja en la extracción de los materiales necesarios para fabricar estas tecnologías.