La UE pacta la primera ley de inteligencia artificial

BruselasTras meses de negociaciones y un último encuentro que se ha alargado más de 36 horas, el Consejo (estados miembros) y el Parlamento Europeo han pactado este viernes la primera ley europea de inteligencia artificial, para permitir o prohibir esta tecnología en función del riesgo que suponga para las personas.

La norma regulará los sistemas de inteligencia artificial como el conocido ChatGPT, pero también otros ámbitos como los límites de la identificación biométrica, uno de los últimos puntos del texto legislativo donde se habían atascado las conversaciones por las diferentes posiciones entre los estados miembros y los parlamentarios.

La presidenta de la Comisión Europea, Ursula Von der Leyen, ha remarcado en un tuit X (antes conocido como Twitter) que esta normativa es pionera a nivel global. "Un marco legal único para el desarrollo de la inteligencia artificial en el que podemos confiar", aseveró. La dirigente comunitaria hizo hincapié en la importancia de este acuerdo por la seguridad y los derechos fundamentales de los ciudadanos y las empresas.

El pacto llega después de tres días de negociaciones intensas en las que uno de los puntos sensibles ha sido el uso que se podrá hacer de las cámaras de identificación biométrica por parte de los cuerpos de seguridad para garantizar la seguridad nacional y prevenir delitos como el terrorismo o la protección de infraestructuras. La norma prohíbe las cámaras de reconocimiento facial en espacios públicos, pero los estados miembros han presionado para permitirlas en casos concretos, siempre con autorización judicial previa.

Aun así, la mayoría parlamentaria tenía una posición más dura y quería priorizar el derecho a la intimidad de los ciudadanos. Por eso en un inicio optaba por restringir esta tecnología a posteriori (no de forma preventiva) y por orden judicial para perseguir delitos graves, como puede ser terrorismo o, entre otros, abusos sexuales.

Con este pacto, la presidencia española del Consejo de la UE logra ponerse una medalla que perseguía, tras presionar hasta el último momento a las partes negociadoras para llegar a un acuerdo antes de que acabe su mandato. Tal y como apuntan fuentes cercanas a la negociación, Madrid planteó una propuesta para acercar posiciones entre el Parlamento Europeo y los Estados miembros, principalmente Alemania, Francia e Italia.

Los Estados miembros apuestan por la autorregulación

La nueva ley también quiere acabar con las tecnologías de inteligencia artificial que clasifican currículos laborales para procedimientos de contratación, que califican sobre la solvencia de las personas que desean acceder a un préstamo o estiman la fiabilidad de las pruebas presentadas en un procedimiento judicial, que se basan en esquemas discriminatorios. Especialmente, en lo que se refiere a género, etnia, orientación sexual o afinidades políticas. hacer prevalecer su posición. Las tres mayores economías de la Unión Europea, que en este caso sí van de la mano, pidieron "más tiempo" para discutir la nueva normativa para garantizar que no obstaculiza la innovación y no afecta negativamente a la competitividad de la industria del bloque europeo , que pretende explotar esta tecnología.

En cambio, el Parlamento Europeo y una parte importante de los Veintisiete optaban por regular y acotar por ley el desarrollo de los llamados sistemas fundacionales o sistemas generativos de inteligencia artificial, como ChatGPT , que crean contenido a través de la observación de otros datos. De esta forma, pretendían asegurarse de que esta tecnología no acaba suponiendo un peligro.

Incluso la Eurocámara tenía la intención de clasificar estos sistemas directamente "de alto riesgo" y que, por tanto, estuvieran ligados en corto legalmente y sometidos a un control muy estricto. Sin embargo, al menos Berlín, París y Roma quieren que esta tecnología se autorregule con mecanismos propios de protección, y que las autoridades sólo actúen en caso de riesgo potencial.

Eso sí, tanto Alemania como Francia e Italia están dispuestas a aceptar el control de un organismo externo e independiente de las grandes compañías del sector, que intervendrá en el supuesto de que los sistemas fundacionales se encaminen hacia un potencial peligro. Además, estas empresas estarían en contacto constante con la Comisión Europea, con la que trabajarían conjuntamente para identificar posibles peligros y tomar medidas.

De hecho, este mecanismo de control es similar al que ya han adoptado Estados Unidos, que a finales de octubre aprobaron la primera ley para regular la inteligencia artificial. Cualquier avance de un sistema fundacional que pueda suponer un "riesgo grave para la seguridad nacional" deberá notificarse al gobierno estadounidense.

Según fuentes de las negociaciones, el punto de la normativa sobre el control de los sistemas generativos es un de los que se han discutido de forma más "viva" y "activa" en las negociaciones, sobre todo a raíz de la aparición de ChatGPT y de que los investigadores de la empresa Open AI avisaran al consejo de la compañía de un poderoso descubrimiento que, según ellos, amenazaba a la humanidad.

Otro de los puntos destacados en los que se llegó a un consenso es la transparencia de los contenidos creados a través de la inteligencia artificial. Deberá advertirse cuando un producto se ha generado a través de herramientas y tecnologías como ChatGPT, especialmente para proteger los derechos de autor. "Queremos crear un marco legal seguro que potencie la inversión en el sector y que las empresas que se dedican a ello no tengan que hacer frente a un alud de demandas", dice una fuente de las negociaciones.

En esta línea, las instituciones europeas quieren asegurarse que la ley no quede desfasada demasiado pronto, sobre todo teniendo en cuenta que se prevé que la inteligencia artificial evolucione muy deprisa. Por ello, permite que la Comisión Europea pueda prohibir por decreto los nuevos usos que vayan saliendo de esta tecnología sin que tenga que acordarlo con el Parlamento Europeo o con los Estados miembros.