El gobierno español pide investigar Meta, X y TikTok por la creación de pornografía infantil con IA

Barcelona / MadridPedro Sánchez no se arruga y da un paso más en la cruzada contra las grandes tecnológicas. El gobierno español ha pedido este martes a la Fiscalía que investigue a X, Meta (que engloba a Facebook e Instagram) y TikTok por los delitos de violencia sexual que podrían estar cometiendo en la creación y difusión de pornografía infantil mediante sus herramientas de inteligencia artificial (IA). "Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no puede permitirlo. La impunidad de los gigantes debe acabar", ha afirmado el propio Sánchez a primera hora en un mensaje publicado precisamente en X.

El consejo de ministros Dubai, entre las que destacaba la prohibición de las redes sociales a los menores de 16 años. En rueda de prensa tras los consejo de ministros, la portavoz Elma Saiz ha justificado la decisión debido a que "cada día" aparecen en las redes sociales "millones de imágenes de nudo, muchas menores, creadas con IA". Según datos difundidos por el gobierno español, de hecho, una de cada cinco personas jóvenes en España, especialmente niñas y adolescentes, afirma haber sufrido la difusión de falsos nudos sus hechos con IA cuando eran menores.

"No podemos permitir que a través del algoritmo se pueda amplificar o amparar esto. Está en juego la seguridad de nuestros hijos e hijas, la protección de su imagen, de su intimidad, de su libertad", ha dicho Saiz. Lo que ha hecho el ejecutivo estatal, pues, es invocar el artículo ocho del Estatuto del Ministerio Fiscal, que habilita al ejecutivo para promover investigaciones "en defensa del interés público". En este caso, en defensa del "interés público, la seguridad y dignidad de la infancia española en su conjunto". La petición se ha realizado a la fiscal general del Estado, Teresa Peramato, quien –previa consulta de la junta de fiscales del Tribunal Supremo– es quien tendrá la última palabra sobre las actuaciones a emprender.

El gobierno español ampara la decisión en un informe técnico donde se analizan las posibles responsabilidades penales de permitir prácticas como la generación de pornografía infantil a través de las ultrafalsificaciones (deepfakes) y la manipulación de imágenes reales para crear otras de contenido sexual explícito. Las redes, según el informe, "permiten la difusión masiva" de estos contenidos con "una velocidad y opacidad que dificultan enormemente la detección y persecución" y favorecen a las redes que "monetizan" estas prácticas.

Todo ello, se añade, podría incurrir en los delitos recogidos en los artículos 189 y 189 bis del Código Penal, referentes a la pornografía infantil y que contemplan tanto multas como penas de hasta nueve años de cárcel. "Estos delitos podrían haberse cometido tanto por los usuarios de las redes sociales como por las propias plataformas y sus responsables", se afirma en el informe, que añade a la lista posibles delitos contra la integridad moral, de coacciones, amenazas, acoso o sextorsión.

El ejecutivo español destaca que España sigue las huellas de países como Francia, donde la Fiscalía ya investiga a X por la generación de deepfakes de carácter sexual, o Italia, donde la autoridad de protección de datos ha advertido ya de las posibles responsabilidades penales de estas prácticas. Y añade que la Comisión Europea y países como Reino Unido, Malasia, Indonesia, Kenia o varios estados de EEUU han abierto diligencias en este sentido contra las redes sociales.