¿Por qué hay una avalancha de alertas y miedo a la inteligencia artificial?

BarcelonaEn los últimos días, incluso los principales representantes de la inteligencia artificial (IA), desde Open AI hasta Anthropic, Space X o Google, han alertado sobre los riesgos de una tecnología que, advierten, puede acabar dominando a los humanos. "Existe una genuina preocupación por los modelos que se vuelven comunes y no se han podido probar mucho y se pueden cometer barbaridades", afirma Esteve Almirall, profesor de Esade especialista en datos, analítica, tecnología e IA. En este contexto, una vez que Open AI, la creadora de ChatGPT, ha decidido retrasar su salida a bolsa para hacer una especie de pausa en el crecimiento, hay quien ve el temor a un castigo estratosférico en el mercado si alguna de las herramientas existentes se ve inmersa en alguna fechoría. Algunas de estas compañías tienen valoraciones que superan el producto interior bruto (PIB) de países como Alemania (más de cinco billones) y una reacción negativa significaría una derrota casi sin precedentes dado que nunca ha habido empresas con estos precios, advierte Josep Soler, fundador y consejero ejecutivo de EFPA España (Asociación Española de Asesores y Planificadores Financieros). "Las enormes valoraciones que se han hecho de estas compañías se desplomarían en caso de que se les perdiera la confianza", añade.

La vertiente de los riesgos

El ingeniero británico de Anthropic Jacob Coxon, que también había trabajado para OpenAI, se hizo popular hace unos días al presentar su dimisión mientras alertaba de que las dos compañías "no están actuando con responsabilidad" y están "jugando con nuestras vidas". En un hilo en su cuenta de X advirtió que las personas que están detrás del desarrollo exponencial de la IA "creen que nos podrá matar a todos al final de esta década". No tardaron en sumarse a las alertas los principales representantes de las compañías, entre ellos, el consejero delegado de Anthropic. Dario Amodei pidió en una carta pública que se reduzca el ritmo al cual se están mejorando las capacidades de los modelos de IA. Según dijo, actualmente la tecnología se está moviendo hacia una dinámica de "autoperfeccionamiento recursivo" que amenaza con causar catástrofes de ciberseguridad a escala mundial.

Aunque actualmente la IA necesita que el ser humano la dirija con buenos propósitos o malos, no se descarta que en un futuro pueda tomar decisiones y actuar autónomamente. O que se haga un uso perverso de ella. Anthropic, por ejemplo, descubrió que los hutíes de Yemen utilizaron su herramienta Claude –pagando con tarjeta de crédito, como cualquier usuario– para dirigir sus misiles contra drones. Y hay herramientas baratas y muy potentes que se pueden incluir en un mac de 1.000 euros como Qwen, del gigante chino Alibaba, con las cuales se puede entrar en sistemas sanitarios o financieros con brechas o agujeros de entrada o hacer otros usos perversos, avisa Almirall. Existe preocupación por estos modelos abiertos, muy potentes, que cualquier narco, terrorista o extorsionador se puede montar en el ordenador y resulta difícil encontrarlos o detenerlos, añade.

La vertiente geopolítica

Los representantes del oligopolio de la IA en los EE. UU. reclaman regularla. Es algo por lo que también apuesta el ala más izquierdista del Partido Demócrata, con Bernie Sanders a la cabeza. Y también se defiende la creación de una especie de organismo internacional para supervisar su actividad y dar una especie de sello de calidad. En julio, 29 países firmaron en Shanghái un acuerdo para crear la World Artificial Intelligence Cooperation Organization, una organización intergubernamental destinada a impulsar la cooperación internacional y la gobernanza de la IA. El presidente de los Estados Unidos, Donald Trump, se opone y prioriza cerrar el paso a China en la carrera de la IA y, por tanto, que las grandes tecnológicas de los EE. UU. continúen con su carrera sin tener en cuenta otras cuestiones, como con la carrera para dominar el espacio. En Pekín, en cambio, le interesa una iniciativa de este tipo, que le permitiría operar incluso en los EE. UU., afirma Almirall. El ministro chino de Seguridad del Estado, Chen Yixin, ha reclamado la creación de una "barrera de seguridad" para la IA y la ha situado como uno de los principales campos de la competición tecnológica global. Asimismo ha advertido de los riesgos que conlleva su desarrollo acelerado.

La potencia asiática, que está forjando una ruta de la seda tecnológica que pasa por África y Sudamérica, ve en la IA otra oportunidad de consolidarse como potencia, como pasó con el 5G y el rol de Huawei. A los líderes de OpenAI o Anthropic, por su parte, lo que les gustaría es que hubiera barreras de entrada al negocio, no solo para los chinos, sino para otras compañías e iniciativas de los mismos EE. UU. para mantener su dominio del mercado, afirman los expertos. Se trataría de limitar la competitividad de los nuevos entrantes y de convertir en un oligopolio el negocio de la IA.

La vertiente del dinero

La carrera de la IA es intensiva en consumo de recursos financieros. Almirall afirma que "esta hipercompetencia merma mucho los beneficios empresariales, y hay que pagarla. De hecho, se tienen que hacer modelos cada seis meses que nadie puede amortizar". Además de la vía de la bolsa, que Open AI ya ha retrasado al año que viene, las grandes tecnológicas, conscientes de que hacen falta recursos gigantescos, están encabezando la captación de fondos en los mercados, con más de 600.000 millones de dólares, a través de emisiones de deuda porque no se quieren quedar sin dinero en la caja. Este, de hecho, no ha sido el único factor, pero sí uno de los que han contribuido a elevar la rentabilidad que los inversores exigen en los últimos tiempos a los bonos de los estados, que tienen que pagar más para captar financiación y hacer perder atractivo a las emisiones de las grandes tecnológicas. "Estas compañías, con valoraciones sin precedentes basadas en expectativas casi ilimitadas, son las que están dominando los mercados de capitales", avisa Soler. Estos valores son los que, en caso de noticias negativas o que afecten a su reputación, pueden provocar un terremoto bursátil.