Bruselas investiga la herramienta de inteligencia artificial de X para desnudar y sexualizar a mujeres reales

BruselasNueva investigación de la Comisión Europea contra 'X'. Bruselas ha anunciado este lunes que ha abierto un expediente a la herramienta de inteligencia artificial de la red social, Grok, por generar contenido sexual "ilegal" y por no tener suficientes controles para evitar el mal uso de esta tecnología por parte de los usuarios de la empresa del magnate Elon Musk.

Fuentes comunitarias explican que la investigación se centrará en la manipulación de fotografías de personas reales, a las que se les puede quitar ropa y sexualizar de forma explícita. La Comisión Europea también alerta de que a menudo se genera contenido que puede considerarse "abuso sexual contra menores".

La investigación formal de la Comisión Europea apenas comienza, pero Bruselas apunta en un comunicado que estos "riesgos parece que se han materializado" y "exponen a los ciudadanos de la Unión Europea a serios daños". En concreto, el ejecutivo comunitario teme que el "contenido ilegal" tenga "efectos negativos en relación a la violencia de género", y tenga "consecuencias negativas contra el bienestar físico y mental" de las víctimas que son sexualizadas a través de la herramienta de inteligencia artificial de X.

Por otra parte, la Comisión Europea también ha prolongado el proceso formal de otra investigación contra X que abrió en diciembre de 2023. En este caso, Bruselas quiere averiguar si la red social ha adaptado de forma general sus servicios a la nueva la ley de servicios digitales de la Unión Europea. Además, el Ejecutivo comunitario informa de que incluirá la investigación del impacto de la nueva herramienta Grok.

Bruselas avisa de que la apertura de una investigación formal no "prejuzga" los resultados finales. Ahora bien, en caso de que la empresa de Musk esté incumpliendo la normativa europea, la Comisión Europea puede pedirle que reforme sus servicios y controles de seguridad. En los peores de los casos, como ya ha ocurrido anteriormente contra grandes tecnológicas estadounidenses, el ejecutivo comunitario puede aplicar multas milmillonarias que supongan como máximo alrededor del 6% de la facturación de la empresa en cuestión a nivel mundial.

La guerra abierta de la UE contra X

Bruselas ya aplicó a finales del pasado año una multa de 120 millones de euros contra la red social de Musk, una cifra que supone casi el 5% de la facturación mundial de X. Además, la Comisión Europea tiene abiertas diversas investigaciones contra gran tecnológica y el magnate se niega a colaborar con las autoridades comunitarias. Y, en la misma línea que la administración de Donald Trump, Musk también está continuamente está criticando la legislación sobre los servicios digitales en la UE y presiona para que la Comisión Europea desregule el sector.

Al menos por el momento, Bruselas se niega y el tono de este lunes de la Comisión Europea contra Musk ha sido duro. "Hemos visto imágenes retocadas de mujeres reales sin consentimiento y contenido que supone un abuso sexual contra los menores. Ninguna empresa hará dinero violando nuestros derechos fundamentales", ha remarcado en rueda de prensa el portavoz del ejecutivo comunitario Thomas Regnier.