Que partimos de una inteligencia artificial con algoritmos sesgados no es secreto para nadie. Se ha demostrado y se ha remarcado la peligrosidad de utilizar la IA sin regulación, sea para fines personales, o para su uso en una empresa o institución, o lo que es más alarmante, divulgar contenido en las redes. Alcanzar algoritmos éticos, alineados con los valores democráticos y que tengan perspectiva de género es un objetivo que, sobre todo en Europa, se está intentando alcanzar. Mujeres expertas en esta materia ponen luz ante una tecnología que avanza muy rápidamente, que parece difícil de controlar y en la que, como ocurre en el mundo de las big tech, faltan mujeres.

"La voz de la democracia no será doblada por los tecnooligarcas del algoritmo", dice Pedro Sánchez en una nueva y desafiante puesta en escena. Hace quince días fue la inmigración, el espantajo preferido de las extremas derechas para movilizar a la ciudadanía. El presidente anunció la regularización de todos aquellos que lleven al menos cinco meses aquí. Reconocimiento de los derechos y de la dignidad de Abascal y Vox y la indignación del PP, con el argumento patético de siempre: vienen a tomar el trabajo a los ciudadanos ya diluir los valores esenciales de la patria. escalones en el desafío. Al anunciar el alejamiento de los menores de 16 años de las redes sociales ha provocado la reacción furiosa de Elon Musk y compañía, representantes canónicos del menosprecio de la población por parte de los que la consideran carne de explotación. parece evidente que el empleo y el uso sin medida que están haciendo determinadas compañías del espacio digital que pretenden controlar, desde la lógica de una sociedad en la que todo vale siempre que sea en su beneficio, dada la dimensión que está adquiriendo, puede llegar a ser una verdadera amenaza a la dignidad de la condición humana. personas, el principio nihilista del todo está permitido que impera en el mundo digital, ponen en evidencia a quienes reaccionan con indignación contra el anuncio del presidente. Son los promotores y beneficiarios de unas redes en las que reina la insolencia; donde la noción de límite brilla por su ausencia y pone a los chicos y chicas en estado de formación en un marco delirante; donde la idea de los valores y la responsabilidad decae en picado; donde se deja el espacio comunicacional en manos de la llamada tecnocasta; donde se favorece la ignorancia, la impunidad y la radicalización reaccionaria. Y cualquier advertencia sobre esa realidad me parece digna de ser escuchada. No es sólo Sánchez: también los gobiernos de Francia y Alemania han planteado la necesidad de detener los desechos de la tecnocasta, por muy atrevido que parezca desafiar el poder inmensurable de los promotores de las redes sociales y de todo lo que les acompaña.

Los adelantos tecnológicos en el campo de la vigilancia de personas, y la carencia de control con el que se implementan, ya hace tiempo que preocupan a los expertos. Pero ha sido a raíz de la pandemia que se ha detectado un aumento en el uso de estas tecnologías, tanto por parte de los estados como de los privados. Así lo recoge un informe, publicado por el Observatorio de Derechos Humanos y Empresas en el Mediterráneo, el European Network of Corporate Observatories, el Multinationals Observatory y la cooperativa Shoal, y que es parte de un conjunto de estudios que analizan la situación de otros países, como por ejemplo Francia o Gran Bretaña.

A las personas nos mueven las emociones, pero el mundo está cada vez más guiado por algoritmos, los programas que aprovechan los millones de rastros que dejamos cada día en la red para buscar patrones de comportamiento y sacar conclusiones: escucha esta canción (Spotify), mira esta serie (Netflix) o lee esta novela romántica (Amazon). David Casacuberta (Barcelona, 1967) se dedica a la búsqueda de las implicaciones sociales, culturales y cognitivas de las tecnologías digitales. Fue invitado por el profesor Daniel Gamper en el Diàleg de Pedralbes dedicado a hablar de cómo convertirse en un ciudadano libre en la red y del uso de los algoritmos como herramientas políticas. De la política pasamos a la vida y a cómo el algoritmo nos puede denegar un crédito, una cama en la UCI o la entrada en un país si los reguladores públicos no se toman muy seriamente la tendencia a lo que el ponente denomina “solucionismo tecnológico”.

Todo el mundo sabe que uno de los motivos que explican el auge de la extrema derecha es su dominio de las redes sociales, y el ejemplo más paradigmático es el de Donald Trump. Por eso es importante conocer sus tácticas y estratagemas. Alguien que las conoce muy bien es el profesor de filosofía de la ciencia de la UAB David Casacuberta, experto en funcionamiento de los algoritmos y las redes sociales. En el marco de los Debates de Pedralbes, organizados por el ARA y el monasterio, Casacuberta dio ayer algunas claves para no caer en sus trampas. “Una estrategia que les funciona muy bien es hacer anuncios muy provocativos, porque así la gente de izquierdas se indigna mucho y empieza a reenviar el mensaje a sus contactos diciendo «¡Mirad qué han dicho!», y no se dan cuenta de que así están amplificando su discurso porque lo hacen llegar a personas a las que ellos no llegarían nunca”. 

Las máquinas, aunque pueda costar de creer, están sometidas a principios morales y éticos. Y, cuanto más sofisticadas sean, lo que implica más grados de libertad y más autonomía, más elevado es el componente ético. Es el caso de robots y también de la inteligencia artificial. En buena medida, que se respeten estos principios depende de su programación, es decir, de los algoritmos que se crean para que las máquinas hagan la función para la que están diseñadas. Dicho de otro modo, de la intervención humana en su concepción. El estudio de estas normas y principios éticos, que va mucho más allá de lo que Isaac Asimov definía en 1950 como que de ninguna manera un robot podía hacer daño a un humano, recibe el nombre de roboética. Una disciplina que crece cada día que pasa y que tiene en la programación del algoritmo su punto central.

Las tecnologías de la información y de las comunicaciones (TIC) están modelando nuestra sociedad de manera sustancial. Dentro de las TIC hay dos tecnologías destacadas por su impacto social y las implicaciones éticas que tienen: la inteligencia artificial (IA) y la ciberseguridad. La IA se propone nuevos horizontes y por ello plantea nuevos dilemas éticos. Por otra parte, la ciberseguridad pretende que el mundo virtual sea al menos tan seguro como el mundo físico.

El término algoritmo se utiliza mucho más ahora que cuando el matemático persa del siglo IX del que deriva, Muhammad ibn Musa al-Khwarizmi, diseñaba métodos para resolver ecuaciones de primer y segundo grado. Las razones son claras: ahora hay más datos y más capacidad de cálculo. Pero siempre ha habido algoritmes, que no son más que un conjunto de instrucciones que tienen por objetivo ejecutar una tarea. La receta de un pastel de chocolate o de una paella valenciana son algoritmos. La forma de encender fuego con dos bastones es un algoritmo. La técnica de caza que utilizan algunos grupos de orcas, cuando expulsan aire mientras giran bajo sus presas para atraparlas en un cilindro de burbujas, es un algoritmo, en este caso generado y transmitido de una manera prelingüística. También lo son las danzas nupciales del ave del paraíso o las canciones de cuna.