El gobierno español pide investigar si la IA de X comete delitos de pornografía infantil
Grok ha producido contenido pedófilo y de violencia sexual contra niños a petición de usuarios
BarcelonaEl gobierno español quiere que la Fiscalía aclare si la inteligencia artificial (IA) de X está cometiendo delitos de difusión de material pedófilo y de violencia sexual contra la infancia. Esta IA, Grok, ha producido a petición de usuarios de la plataforma imágenes de contenido sexual y de violencia contra niños y niñas. Por eso, el ministerio de Juventud e Infancia ha pedido a la Fiscalía General del Estado que investigue si esto puede acarrear un delito de pornografía infantil.
En todo caso, el ministerio considera que estas imágenes creadas por la IA a petición de los usuarios suponen "una práctica que no puede entenderse como un uso neutro de la tecnología". La cartera que dirige la ministra Sira Rego cree que todo ello puede acarrear un delito de pornografía infantil y un delito contra la integridad moral. "Es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet", aseguró la ministra, quien critica una "vulneración de derechos fundamentales" en la difusión de estas imágenes.
El escrito que la ministra Sira Rego ha enviado a la Fiscalía también recuerda el precedente de una sentencia que dictó el pasado junio un juzgado de menores de Badajoz, y que condenó a varias personas por manipular imágenes de niñas y adolescentes con IA.
Proteger a los niños en internet
Por otra parte, el ministerio recordó que el Congreso está tramitando la ley orgánica para la protección de las personas menores de edad en los entornos digitales, con el objetivo de reforzar la dignidad, seguridad y derechos de la infancia en el espacio digital. La norma quiere proteger la integridad y la intimidad personal frente a nuevos riesgos relacionados con el uso de tecnologías como la IA, priorizando siempre el interés superior de los menores.
Según añade el ministerio, esta iniciativa forma parte de una estrategia para crear entornos digitales seguros, reconociendo que internet y las plataformas digitales no fueron diseñadas pensando en la infancia y que es esencial garantizar que los menores puedan desarrollarse sin violencia, sin exposición indebida, sin pedofilia y sin que se mercante.