El papa León XIV también ha pedido "sinceramente perdón" en nombre de la Iglesia católica por haber tardado siglos en condenar la esclavitud. En su documento, el papa habla de que la IA puede generar nuevas formas de esclavitud y pide que se considere "una grave violación de la dignidad humana". "No se puede negar ni minimizar el retraso con que la Iglesia y la sociedad condenaron el azote de la esclavitud", ha dicho, y ha recordado que hubo que esperar hasta el siglo XIX para encontrar "una condena formal, absoluta y universal de la esclavitud". Por ello, añade, “el recuerdo de la complicidad y la ceguera del pasado ante la injusticia de la esclavitud se convierte para nosotros en una llamada a la vigilancia: lo que hemos aprendido se debe traducir en discernimiento y responsabilidad en el presente”.
El Papa alerta sobre la inteligencia artificial: "Ningún algoritmo puede hacer que la guerra sea moral"
En su primera encíclica, León XIV advierte que esta tecnología se concentra en pocas manos y la define como "una forma inédita de colonialismo"
RomaLa inteligencia artificial (IA) "no es neutral", sino "una forma inédita de colonialismo" que reduce a las víctimas a datos para nutrir a quienes están detrás de esta tecnología, advierte el papa León XIV en su primera encíclica, el documento papal de mayor relevancia. Un escrito muy esperado, que recoge los principios que guiarán su pontificado y que por primera vez en la historia ha presentado el mismo Papa en un acto, este lunes, en el Vaticano. En el texto, Robert Prevost hace un llamado a proteger “la magnífica humanidad habitada por Dios”, promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz.
En Magnifica humanitas ("La grandeza de la humanidad", en latín), el pontífice reflexiona sobre la doctrina social de la Iglesia en la era de la IA y dedica una profunda reflexión a la protección de la dignidad humana, en la que alerta del peligro de que esta tecnología "se concentre en pocas manos". Escribe el Papa que, en la era digital, es necesario desarmar la IA y superar la teoría de la “guerra justa”, abogando en su lugar por el diálogo y el multilateralismo para alcanzar la paz. "No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable", condena.
Dividida en cinco capítulos, Magnifica humanitas
parte de un principio concreto: la tecnología no es "un mal en sí misma" pero depende directamente de quien la concibe, la financia, la regula y la utiliza. "No sirve [de nada] una IA más moral si esta moral la deciden unos pocos", subraya. Para el Pontífice, se trata de un nuevo orden mundial en el que “pequeños grupos muy influyentes pueden orientar informaciones” y “condicionar procesos democráticos”. “Cuando un poder de una magnitud tan grande se concentra en pocas manos, tiende a volverse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”, advierte.
Siguiendo los pasos de la Rerum novarum
de León XIII, el Papa quiere actualizar en su encíclica la doctrina social de la Iglesia y afirma que es necesario "desarmar" la IA para sustraerla de los monopolios e impedir que domine al ser humano, ya que la alternativa no se encuentra entre el entusiasmo y el miedo, sino entre dos formas de construir el progreso: al servicio de la persona y de los pueblos o de las lógicas de poder.
En su discurso, el Pontífice recordó que la Iglesia "hace mucho tiempo que está comprometida con el desarme nuclear, como un servicio a la paz y a la dignidad de la familia humana" y que, de la misma manera, "la inteligencia artificial actual debe estar al servicio del bien común". En este sentido, el Papa propone establecer “restricciones éticas rigurosas, compartidas a escala internacional, basadas en la responsabilidad personal y en la protección de los civiles”. Recientemente, el Vaticano aprobó una comisión formada por miembros de los diversos dicasterios para facilitar el intercambio de información y proyectos sobre IA, incluyéndole políticas para su uso interno.
Las guerras híbridas y la manipulación digital
Según León XIV, la tecnología no hace menos inhumano el conflicto, solo puede hacerlo más rápido e impersonal, rebajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, y alimenta así "una cultura en la que el enemigo queda reducido a un dato y la víctima a un daño colateral". Así –continúa el pontífice– "nos acostumbramos a la idea de que la violencia es inevitable y solo hay que optimizarla".
, el Papa ha invitado a Christopher Olah, cofundador de la
León XIV también advierte de los riesgos de la IA para la libertad individual a través de la recopilación masiva de datos y del uso de algoritmos, los cuales dice que "transforman las vidas personales en información explotable y convierten el entorno digital en un «espacio de depredación»". En este documento de 110 páginas, el Papa –que condena "la estrecha conexión entre los intereses económicos, los aparatos militares y las decisiones políticas"– también advierte sobre el uso de armas relacionadas con la IA. El Papa denuncia que para algunos gobernantes la guerra es un instrumento de “gestión cínica” de las dificultades, así como una manera de desviar la atención de los problemas internos.
De hecho, en la presentación de Magnifica humanitas, el Papa ha invitado a Christopher Olah, cofundador de la start-up Anthropic —una de las compañías más influyentes de Silicon Valley en IA— y director de investigación sobre la interpretabilidad de la IA. Nordamericano como el pontífice, el magnate tecnológico se enfrentó con el presidente de los Estados Unidos, Donald Trump, al rechazar ceder el uso de su modelo de tecnología al Pentágono para finalidades militares y para la vigilancia masiva de ciudadanos sin restricciones.
Olah ha reconocido en su intervención que el desarrollo de la inteligencia artificial está concentrado en un pequeño grupo de naciones ricas. "¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?, ha cuestionado, y ha defendido que hacen falta "voces morales que los incentivos no puedan doblegar". "Por mucho que cualquiera de nosotros intente hacer lo que es correcto siempre estaremos influenciados", ha reconocido.
Invitación a frenar la deshumanización
El jefe de la Iglesia católica describe la IA como “un poder nuevo” que corre el riesgo de discriminar a los más débiles y generar nuevas formas de esclavitud, como la de quien trabaja en la extracción de los materiales necesarios para fabricar las tecnologías necesarias para su desarrollo. Por ello, advierte sobre la necesidad de proteger la dignidad y el valor del trabajo para luchar contra la creciente pobreza y desigualdad provocada por sistemas automatizados que han sustituido al hombre.
Robert Prevost afirma que la cultura del poder "penetra en la sociedad, modifica las relaciones y los comportamientos, se expande normalizando la guerra, persiguiendo un poder militar cada vez mayor, aprovechándose de la crisis del multilateralismo y alimentando un falso realismo, el cual repite que no existen alternativas".
Magnifica humanitas es el segundo gran documento de León XIV, después de Dilexit te [Yo te he amado], la primera exhortación apostólica de su pontificado, que, en realidad, era un texto en el que había empezado a trabajar su predecesor, el difunto papa Francisco. El Papa también aprovecha la encíclica para denunciar a quien utiliza el nombre de Dios para legitimar la guerra, la violencia o el terrorismo y relanza el diálogo interreligioso, y convida a los cristianos a construir “la civilización del amor”, a responder a esta cultura del poder frenando la deshumanización con pequeños actos y a cultivar un “sano realismo” que busque vías de paz viables con hechos, no solo con palabras.