El FMI, en alerta por la IA: "Sin salvaguardas, el riesgo puede superar las oportunidades"

BarcelonaLas principales instituciones económicas internacionales han tomado buena nota de las alarmas por la seguridad de la inteligencia artificial que se han desatado durante el verano. La última en demostrarlo ha sido la directora gerente del Fondo Monetario Internacional (FMI), Kristalina Georgieva. En una intervención durante los encuentros anuales de la institución monetaria y el Banco Mundial, que se celebran esta semana en Bangkok, Georgieva ha hecho un llamamiento a la regulación y a la vigilancia de la tecnología por parte de los principales actores de la industria. "Sin salvaguardas, los riesgos pueden superar las oportunidades", ha sentenciado la directora.

En una mesa redonda en la que también participaba Jack Clark, cofundador y responsable de políticas de Anthropic –la compañía creadora de Claude, ahora a punto de una de las grandes salidas a bolsa de la historia de Estados Unidos–, Georgieva ha señalado que, para garantizar una buena aplicación de la IA, "por encima de todo se necesitan unos fundamentos éticos". "Y no estoy segura de si, como sociedad, los tenemos", ha añadido. Aun así, ha reconocido que ya se empiezan a notar "incrementos de productividad" vinculados a la inteligencia artificial, si bien todavía no se registran "a una escala transformativa".

La directora gerente se ha expresado en línea con el último informe World Economic Outlook, publicado por el mismo FMI. En el documento, la entidad reconocía que la inversión en inteligencia artificial ha "proveído de ímpetu la actividad global y ha apoyado el comercio internacional", gracias a la financiación masiva de infraestructura y maquinaria. Aun así, los expertos del Fondo Monetario Internacional alertaban también que "todavía está por ver si este choque de demanda positivo se transformará en un choque de oferta positivo a largo plazo".

La IA, un Fórmula 1

En su intervención, Georgieva también ha discutido los términos en los cuales la industria debe regularse a sí misma, y en qué las administraciones deben vigilarla. El problema es el dinamismo de la evolución de la IA: "¿Cómo ponemos guardarraíles en un sector que se mueve tan rápidamente?" La dirigente del FMI, en este sentido, ha comparado los grandes modelos de lenguaje con una carrera de Fórmula 1. "Tengo el máximo respeto por la industria, creo que está trayendo un gran regalo a la humanidad. Pero si en medio de la carrera el coche sale de la pista y mata a gente, quizás el regalo no valga la pena", ha reflexionado. En este sentido, ha puesto el foco en la responsabilidad de las empresas tecnológicas, dado que "los gobiernos no pueden regular algo que se mueve a esta velocidad" porque, dice, "no saben lo suficiente".

En línea con la estrategia reciente de Anthropic, Clark ha recogido el guante de Georgieva y lo ha devuelto multiplicado: "Es peor de lo que piensa. Es como un coche de Fórmula 1, de noche y sin frenos". Para el cofundador de Anthropic, antes que poner barreras reguladoras hay que "establecer un estándar común" para los modelos de IA. Y esta responsabilidad corresponde, según el gigante tecnológico, a las administraciones. "Probamos nuestros sistemas, compartimos los resultados de las pruebas, toda la información, y lo hacemos de forma voluntaria. Esto no debería ser voluntario", ha concluido Clark.