La IA nos puede ayudar a combatir la pobreza
En 2019 se reveló uno de los escándalos más importantes sobre la inteligencia artificial (IA). El gobierno de los Países Bajos había estado utilizando un algoritmo de autoaprendizaje para crear perfiles de riesgo que le permitieran identificar un potencial fraude entre aquellos que solicitaban ayudas públicas a la crianza. El diseño de este algoritmo vino a reforzar un sesgo racista por parte de las instituciones públicas neerlandesas, que acusaron de forma errónea a muchas familias –la mayoría de origen turco y marroquí– de cometer fraude. Estas familias tuvieron que devolver grandes cantidades de dinero a las autoridades, lo que hizo que muchas tuvieran que endeudarse y perdieran la casa e incluso la tutela de los hijos e hijas.
Sin duda, son muchas las cosas que nos preocupan de la llegada de la IA a nuestras vidas: ¿Nos quedaremos en paro? ¿Qué podemos creernos de lo que vemos en las redes? ¿Cómo evitar que los estudiantes copien? Hace tiempo que convivimos con bots o sistemas de recomendación en plataformas digitales, pero la aparición del ChatGPT ha hecho que nos cuestionemos mucho más cómo la IA está imbricada en nuestro día a día. Y este debate se ha trasladado también al uso que la administración pública puede hacer de estos recursos.
Son diversas las instituciones públicas de nuestro entorno que ya cuentan con esta tecnología para ayudarlas en diferentes tareas. Y desde el proyecto de m4social de la Mesa de entidades del Tercer Sector he podido colaborar en un informe que busca precisamente identificar los beneficios y riesgos del uso de la IA en las administraciones públicas catalanas a través de sistemas como el identificador de necesidades en intervención social, el recomendador de prestaciones sociales, el motor de reglas de prestaciones sociales o el servicio de automatización de los informes de pobreza energética. Son sistemas de decisión automatizada, que pueden incluir o no el uso de IA. Se ha creado también un repositorio de ejemplos en Cataluña, que afectan especialmente a los colectivos en situación de vulnerabilidad.
Si la tecnología nos ayuda a tomar decisiones sobre cómo asignar ayudas sociales entre la ciudadanía, debemos cuestionarnos la transparencia, privacidad y seguridad de este tipo de sistemas, garantizando que huyan de sesgos y discriminaciones. Es decir, que una persona quede excluida por su origen étnico, edad o género. Pero no podemos dejar que el miedo nos aleje de una transformación digital necesaria a la Administración –y especialmente al acceso de la ciudadanía a los servicios públicos, tradicionalmente lento en nuestro país.
Compartir datos entre diferentes administraciones, automatizar procesos y contar con algoritmos que permitan identificar las necesidades de la ciudadanía, proponiendo actuaciones, no sólo mejora la eficiencia en la gestión y reduce las cargas y los tiempos de los trabajadores públicos, sino que también permite a aquellas personas que se encuentren en una situación de emergencia social poder tener una ayuda en pocos días, en vez de esperar meses. La IA implica riesgos para las administraciones públicas, pero renunciar a ellos por miedo a su funcionamiento es aún más peligroso.