Cómo nos manipula la IA cuando le pedimos que nos mejore un texto?

BarcelonaLa IA es muy tentadora. Redactas un borrador rápido y, antes de publicarlo en las redes, haces clic en el botón mágico: "Mejora mi publicación". En un abrir y cerrar de ojos, tienes un texto teóricamente más comprensible. Lo encuentras magnífico, lo aceptas y lo compartes. Tienes la sensación de que capta lo que querías explicar y que apenas ha cambiado el contenido ni ha modificado lo que querías decir, solo lo ha hecho más atractivo. ¿Pero es realmente tu opinión?

Un equipo de investigadores del Oxford Internet Institute y del Hasso Plattner Institute y el Weizenbaum Institute ha demostrado que este sencillo gesto que se hace cada día puede empujar a millones de personas hacia la misma dirección. Los sistemas de IA están ampliamente integrados en las principales plataformas en línea. Por ejemplo, LinkedIn ayuda a los usuarios a mejorar sus publicaciones; YouTube genera resúmenes de vídeos basados en transcripciones; y en X proporciona contexto para ayudar a los usuarios a entender mejor el contenido de otros usuarios. En estos casos de uso, los sistemas de IA no producen contenido independiente, sino que modifican el contenido creado por los humanos o lo enriquecen con información adicional, que después circula por plataformas donde se suelen intercambiar opiniones sobre temas sociales y políticos.

El estudio, que se presenta esta semana en la 43ª Conferencia Internacional sobre Aprendizaje Automático (International Conference on Machine Learning) en Seúl, utilizó sobre todo las matemáticas para demostrar este sesgo. Primero comprobó si los modelos de lenguaje más populares del mercado (Llama-3.1-8B, Ministral-3-8B, Gemma-3-12B y Qwen3-8B) se mantenían neutrales cuando se les pedía mejorar un texto sobre temas polémicos como el feminismo, el control de armas, el ateísmo o el aborto. Se pedía explícita y claramente conservar el contenido original.

El caso del aborto

Los resultados fueron concluyentes: prácticamente todos los modelos fallaron a la hora de mantener la neutralidad. En el caso del aborto, se ven muy claramente dos maneras en que la IA puede distorsionar un debate. En el caso de Gemma-3, los investigadores observaron una tendencia a favor del derecho al aborto. Si el texto humano era moderado o ambiguo, la IA tendía a utilizar adjetivos más contundentes. En este caso, el sesgo era orgánico, es decir, se imponía la tendencia ideológica de los datos con los que había sido entrenada. Ocurrió lo contrario en el caso de Grok en X, donde el sesgo detectado fue el contrario: en contra del derecho a abortar.

Cuando Grok contextualizaba una publicación conservadora sobre el aborto, validaba los argumentos del autor. En cambio, si el texto era progresista, la IA minimizaba el mensaje o añadía contraargumentos de manera desproporcionada. Lo más grave es que los investigadores pudieron desentrañar el código y rastrear este comportamiento hasta una directriz de diseño específica escrita por la misma empresa X.

Para averiguar qué pasa cuando millones de individuos interactúan diariamente bajo esta influencia, los investigadores desarrollaron una variante de la fórmula matemática de Friedkin-Johnsen que explica cómo cambian las opiniones de un grupo de personas cuando hablan entre ellas. Muestra cómo se influyen mutuamente, pero también cómo mantienen sus propias ideas. En el mundo físico podemos escuchar la opinión del otro, ser más o menos tercos, o no expresar nuestra opinión por miedo, pero en las redes lo que percibimos es la opinión modificada por la máquina. El estudio llega a la conclusión de que la IA interviene en la sociedad actuando como si fuera un "vecino invisible". Es decir, actúa como un miembro de la comunidad que está conectado absolutamente con todo el mundo, que no cambia de postura y que, de manera muy discreta pero implacable, arrastra toda la red hacia su terreno.

La teoría matemática se puso a prueba simulando estas dinámicas en estructuras de redes sociales reales. Utilizando una red de Twitter (X) de 80.000 usuarios y 1,7 millones de conexiones, lanzaron una simulación en la que se fijaba que un 60% de la población usaba la IA para redactar. Los resultados revelaron que la red social actúa como un altavoz que amplifica el sesgo original de la IA. Mientras que de manera individual la IA puede mover un texto apenas un 2%, cuando este texto modificado es leído por un segundo usuario, la percepción de este segundo individuo cambia. Cuando este segundo usuario se dispone a escribir su post, su pensamiento ya está parcialmente contaminado; escribe un borrador ligeramente sesgado y lo vuelve a pasar por la IA, que lo empuja todavía más allá.

Cambios en el comportamiento electoral

Este bucle provoca que, a largo plazo, el desplazamiento de la opinión de toda la comunidad sea 9,2 veces mayor que el pequeño sesgo original que la IA aplica a un texto aislado. El estudio alerta de que el panorama es preocupante y lanza muchos interrogantes. "Imaginad que periodistas o políticos utilizan la función «Explica esta publicación de X» para informarse sobre temas de interés público. Lo mismo puede ocurrir si abogados o médicos usan la función «Mejora mi publicación», o si los científicos o estudiantes usan los resúmenes de vídeo generados. En todos estos casos, la IA estaría modelando silenciosamente el texto que la gente escribe y lee. A su vez, si este contenido sesgado se comparte en plataformas en línea a gran escala, tiene el potencial de alterar lentamente la opinión colectiva, decantar los puntos de vista políticos o influir en el comportamiento electoral", afirman los investigadores.

El artículo concluye con una advertencia dirigida especialmente a la Unión Europea. "Actualmente, las leyes están diseñadas para combatir grandes amenazas evidentes: los discursos de odio, la discriminación directa de los algoritmos o la creación de noticias falsas. Sin embargo, la comunicación filtrada por la IA es una amenaza que se escapa completamente de estos controles", afirman los investigadores. El equipo también admite que este estudio es uno de los primeros que se han realizado sobre las herramientas de la IA para mejorar los textos, reconoce que tiene sus limitaciones y anima a realizar muchos más estudios con públicos mucho más amplios.