Por qué China no quiere detener el desarrollo de la IA
En las últimas semanas hemos visto cómo agentes autónomos de IA de las grandes compañías americanas han hackeado empresas, webs del gobierno estadounidense o australiano, o bases de datos de las Naciones Unidas. Estas IA “fuera de control” han llevado a cabo acciones ilegales con el objetivo de conseguir las metas que se les habían asignado. La falta de “alineamiento” entre los valores humanos y las acciones amorales que toman las IA ha hecho que algunos expertos hablen, en escenarios extremos, de un 10% de posibilidad de que una IA “fuera de control” acabe con la humanidad.
Ante estos acontecimientos, diversas grandes empresas de IA han pedido frenar el desarrollo de esta tecnología. El problema, sin embargo, no es toda la IA, sino una práctica en concreto: el llamado recursive self-improvement (RSI), es decir, una IA entrenando a otras IA en bucle para automejorarse, sin ningún humano al volante. El objetivo de estos experimentos es llegar a la inteligencia artificial general, una IA que iguale o supere las capacidades humanas en todos los ámbitos. De este tipo de experimento es de donde han surgido los problemas más graves con agentes “fuera de control”.
Las grandes empresas de IA dicen que este proceso es peligroso y debe ralentizarse. Pero ponen una condición: China debe hacer lo mismo. El temor a que Pekín supere a Estados Unidos es mayor que el de un gran cataclismo generado por la inteligencia artificial. Hay tres motivos, sin embargo, que hacen poco probable que China acepte frenar el desarrollo de esta tecnología.
En primer lugar, China se preocupa por la seguridad y los peligros de la IA, pero los riesgos que considera prioritarios no son los mismos que Occidente. Para China, los problemas principales de la IA son los deepfakes, la desinformación o el uso de la IA que pueda afectar a la estabilidad política del país. Los escenarios apocalípticos de una IA fuera de control se tienen menos en cuenta, en parte porque China no tiene los modelos más avanzados del mercado, al contrario que los Estados Unidos.
En segundo lugar, China ya va por detrás de los EE. UU. en desarrollo de inteligencia artificial. La causa principal es la falta de acceso a chips de entrenamiento de IA de Nvidia, debido a los controles de exportación que Washington ha impuesto contra Pekín. Los chinos ven cómo, además de estar sancionados en el ámbito de la computación, ahora desde los Estados Unidos también se les pide que frenen voluntariamente el desarrollo de los modelos de IA. Es difícil que China no vea esto como un movimiento cínico que busca poner más palos en las ruedas al ascenso tecnológico chino.
Finalmente, aunque los laboratorios americanos piden frenar el desarrollo de la IA, Trump ha dicho que de eso nada y que el proceso debe acelerarse aún más. El gobierno chino, por su parte, está más enfocado en encontrar aplicaciones prácticas y comerciales de la IA que en llegar a una promesa de inteligencia artificial general. Los grandes actores clave reman en direcciones diferentes.
¿Hay algún espacio para la esperanza? Algunos expertos dicen que la postura de China podría cambiar si las empresas de IA americanas frenaran de manera unilateral su desarrollo. Pekín entonces vería que van de buena fe. Pero, ¿estarían realmente dispuestas a dar este paso, más allá de las palabras?