La Eurocámara quiere evitar una IA racista y antidemocrática: “Estamos escribiendo la historia de una nueva era”

EstrasburgoLos diferentes miembros de la Comisión Europea y todos los representantes de los grupos parlamentarios de la Eurocámara que han intervenido en el pleno de este martes han coincidido —y repetido— que la legislación sobre la inteligencia artificial (IA) que está tramitando la Unión Europea es "histórica". Se han congratulado de adelantarse al resto de grandes potencias mundiales y de ser la primera administración del mundo que está tramitando una regulación que quiere ser pionera y referente para controlar esta nueva tecnología, que presenta tantos riesgos como oportunidades. "Debemos atar corto la inteligencia artificial para que se utilice de manera positiva. Queremos aprovecharnos del progreso de la tecnología y ponerla al servicio humano", ha defendido la vicepresidenta de la Comisión Europea, Margrethe Vestager.

De hecho, Bruselas ya presentó una propuesta legislativa antes de que, tal como ha dicho el portavoz de la iniciativa, Brando Benifei, "saltasen las alarmas" y se hablara incluso de la "posibilidad de la extinción humana" a raíz del estallido de la inteligencia artificial generativa. Esta tecnología, más allá de recoger toda la información y todos los datos de las cuales dispone, también crea nuevo contenido, como textos, cuadros o imágenes. "Europa se ha avanzado, pero los riesgos ya existen y la IA se tiene que controlar. El mundo entero nos mira", ha asegurado Benifei. Con el mismo tono grandilocuente, el otro portavoz, Tudorache Dragos, ha afirmado que "la Unión Europea está escribiendo la historia de una nueva era" y "quiere poner a la humanidad en el centro" del desarrollo de la IA.

El tema más polémico: el uso biométrico (racista) de la IA

A pesar del enorme consenso del Eurocámara, en la única cuestión en que los grupos parlamentarios discrepan es hasta qué punto se tiene que limitar el uso de la inteligencia artificial en los sistemas de identificación biométrica en streaming en espacios públicos. El Partido Popular Europeo (PPE), tal como ya planteaba la Comisión Europea, quiere que esta tecnología se pueda usar para prevenir posibles ataques terroristas o, por ejemplo, para la búsqueda de personas desaparecidas, incluso niños. Ahora bien, los socialdemócratas y la mayoría de grupos, no obstante, se oponen frontalmente y fuentes comunitarias conservadoras admiten que no prevén que su posición acabe prevaleciendo.

"Se ha demostrado que no funciona y acaba teniendo un funcionamiento discriminatorio", ha defendido el socialdemócrata Petar Vitanov. En este sentido, el eurodiputado progresista considera que este mecanismo podría ir en detrimento de los derechos de las personas racializadas y podría facilitar que empresas y administraciones "burlen" la ley para acabar utilizándola para otras finalidades. En todo caso, sí que hay acuerdo sobre que se permita que los cuerpos de seguridad de los estados miembros puedan usar los sistemas de identificación biométrica con autorización judicial y para investigar delitos muy graves.

Además, la mayoría de los eurodiputados quieren prohibir los sistemas que categoricen por género, raza, etnia, nacionalidad, estatus, creencias religiosas u orientaciones políticas; los sistemas predictivos policiales basados en el historial delictivo, el perfil del acusado y la ubicación; y los reconocedores de emociones, principalmente en ambientes laborales y en centros educativos.

Protección de los derechos de autor

Otro de los puntos destacados que los eurodiputados han enmendado del texto que propuso la Comisión Europea es el de potenciar la transparencia de los contenidos creados a través de la inteligencia artificial. De este modo, se tendrá que advertir que los productos que han sido generados a través de herramientas como ChatGPT son resultado de esta tecnología. En la misma línea, la Eurocámara también quiere que las empresas del sector diseñen modelos de inteligencia artificial que se aseguren de no generar contenidos ilegales, y que publiquen el resumen de las fuentes que han utilizado y que son sus derechos de autor.

En el debate de este martes en la sede del Parlamento Europeo de Estrasburgo se ha constatado el gran consenso que hay sobre la conveniencia de regular la IA y se prevé que la normativa —sin las enmiendas del PPE— se apruebe en la votación de este miércoles por mayoría agobiante. Aún así, el texto legislativo que salga no será el definitivo porque la Eurocámara todavía lo tendrá que negociar con los estados miembros y ratificar de forma oficial.