Beth Noveck: "Podemos entrar en la edad de oro de la participación democrática"

Beth Noveck (Nueva Jersey, EE. UU., 1971) deja claro en cada una de sus respuestas que se niega a caer en el derrotismo. Ofrece soluciones, pone ejemplos de éxito y defiende que la IA puede ayudar a mejorar el funcionamiento de las instituciones. Y sabe de qué habla, no solo porque es experta en cómo utilizar la tecnología para hacer gobiernos más abiertos, sino porque conoce las instituciones desde dentro: fue la primera directora de Tecnología de los Estados Unidos durante el mandato de Barack Obama. Visita Barcelona para apadrinar la presentación de la Estrategia 2026-2037 de la Universitat Pompeu Fabra.

¿Nos dé una buena noticia?

— Mis alumnos utilizaron la IA para localizar a todos los niños con derecho a beca de comedor de Nueva Jersey que no estaban bien identificados en el sistema. Hay miles de niños que gracias a esto reciben una ayuda.

A mí me venden otros casos.

— Diga.

Una mujer que estuvo cinco meses en prisión. El reconocimiento facial basado en IA la confundió por error con otra persona. 

— La IA es una oportunidad y una amenaza. Tenemos que tener formación, saberla usar, pero si solo nos preocupamos no estamos hablando de todo lo que podemos hacer bien con estas herramientas. 

"Tengo un sueño", decía Obama. Conoce bien su administración.

— Fui la primera directora de Tecnología de los Estados Unidos bajo su mandato. Y fundadora de la iniciativa de gobierno abierto de la Casa Blanca.

¿Qué la sorprendió?

— Tenemos una frase en inglés: nunca atribuyas malicia a lo que se puede explicar con incompetencia. 

Eran incompetentes…

— No, pero a veces hay cambios que pensamos que no se hacen porque la gente es mala y no quiere, y simplemente no saben. La IA cambia cómo debemos hacer participación ciudadana. 

¿Cómo lo cambia?

— Facilitar que los ciudadanos hablen no significa que las instituciones escuchen. La IA es emocionante porque las instituciones pueden escuchar. 

¿Un buen ejemplo de escucha?

— En Hamburgo han creado una herramienta con la que analizan lo que dicen los ciudadanos. Y lo que antes era un trabajo de meses ahora lo tienes casi en tiempo real y puedes actuar en consecuencia. Todas las decisiones sobre planificación urbana se están tomando con participación ciudadana. 

¿Y no se alarga el proceso?

— No, por eso creo que podemos estar entrando en una edad de oro de la participación democrática si aprendemos a hacerlo bien. 

¿Puede ser democrática la IA en manos privadas?

— Barcelona es el centro mundial de lo que se llama IA pública, con el Barcelona Supercomputing Center. Hay diferentes modelos, pero la clave es tratarlo como una infraestructura básica.

O sea…

— Como la electricidad o el agua. Lo que es importante es que estén bajo control público. Veo mucha preocupación en Europa por si la controla alguien de Silicon Valley. 

¿No nos debe preocupar?

— No es mejor si alguien se sienta en Bruselas, París o Madrid y lo único que le interesa es colarme publicidad con la IA. Se tiene que regular como un bien público. 

¿Deberían ser públicos los algoritmos?

— Sí, pero el modelo cambia cuando se añaden más datos. Tiene que ser un proceso continuo de transparencia y pruebas. Y en el caso de la IA el problema, además, es que no sabemos cómo funciona.

¿No lo sabemos?

— No es explicable por qué ChatGPT, cuando le pido un poema, me escribe uno un lunes y otro un martes. Pero necesitamos transparencia y regulación para saber cómo se utiliza un algoritmo. 

Pero ¿cómo podemos asegurar que se hace un buen uso si ni siquiera entendemos cómo funciona?

— Tenemos que diferenciar dos cosas: reconocimiento de patrones pasados y predicciones de futuro.

A ver...

— El aprendizaje automático consiste en reconocer grandes patrones de datos. No tiene mucho misterio. Puedes analizar los problemas de los últimos 15 años para ver dónde tienen especialmente problemas los alumnos. La IA es muy buena en esto. 

Lo que es controvertido, por tanto, es hacer predicciones.

— El futuro no es perfectamente predecible. Podrías tener todos los datos del mundo y a pesar de ello no podrías saber si al día siguiente te atropellará un autobús. Aquí es donde debemos ser cuidadosos y aprender cuándo podemos confiar en la IA. Pero ahora, que no tenemos educación sobre esto, lo mezclamos todo.

Hablemos de IA para mejorar las instituciones en un momento en que parece que las instituciones han dejado de importar a mucha gente. 

— Porque no saben lo que hacen. Se dice que la política es Hollywood para la gente fea. 

No sé si lo entiendo...

— Es el deporte de la política. A la gente le gusta la espectacularidad de los reproches, la lucha de ganar o perder elecciones. Pero no hablamos de lo que pasa al día siguiente, y como resultado de eso a la gente no le importa. Puede salir Trump y decir que se carga miles de puestos de trabajo públicos y la gente lo vota. Pero veo a muchas personas que empiezan a decir: espérate, ¿e qué estoy perdiendo exactamente? Quizás sea optimista, pero creo que esta desestructuración puede servir para que la gente reconozca que un gobierno gestionado es algo importante. 

¿Cómo puede un país pasar de Obama a Trump?

— No es una ruptura de un lugar a otro. Hay una conexión con las instituciones que no son efectivas para resolver los problemas, y eso no tiene que ver con derecha o izquierda. Debemos centrarnos en el trabajo de gobernanza que mejora la vida de las personas. Y la IA, bien utilizada, es una gran ayuda.