El día que la IA se convirtió en el nuevo villano de la película
Mientras unos debaten cómo evitar el apocalipsis en mayúsculas, la otra extinción, la de baja intensidad, ya hace tiempo que ha empezado
Lo hemos visto mil veces, en la tele y en el cine: un actor malvado se infiltra en la producción y distribución de energía, en las telecomunicaciones, en el control del tráfico aéreo o vial, en la sanidad o en el sistema financiero que hace funcionar una ciudad, un país o el planeta entero, y lo contamina o lo detiene hasta que, al borde de la catástrofe, llegan los buenos y lo neutralizan. El malo, casi siempre, es un genio de la informática con aspiraciones monetarias, poca vida social y algún agravio pendiente con los poderes establecidos, o bien al servicio de un estado adversario. Un arquetipo cómodo y fácil de detener en noventa minutos.
Este guion, sin embargo, ha caducado. El desarrollo de las plataformas de inteligencia artificial ha llegado a un punto en el que casi cualquier interesado, sin laboratorio secreto ni clichés de guionista, puede usarlas para provocar el caos: las mismas herramientas facilitan encontrar brechas de seguridad que antes pasaban desapercibidas y explotarlas de la peor manera posible. Ya no hace falta ni un actor malvado: basta con el funcionamiento normal, a máxima velocidad y sin freno, de las mismas empresas que dicen querer evitarlo.
Los últimos días lo han dejado claro. Jacob Coxon, investigador que había trabajado tanto en OpenAI como en Anthropic, dimitió el martes pasado acusando a las dos empresas de correr hacia una superinteligencia autosuficiente "jugándose nuestra vida". Pocas horas después Evan Hubinger, responsable de alineación de la misma Anthropic, le daba la razón en público y cifraba en más de un 10% la probabilidad de que la IA acabe con la humanidad de aquí a una década. Un 10% no parece mucho, hasta que te lo dice el piloto de tu avión antes de despegar.
Cinismo tecnológico
Resulta inquietante que estas confesiones de miedo lleguen justo cuando las dos empresas mencionadas preparan salidas a bolsa multimillonarias. Que sus propios empleados salgan a decir que el producto puede exterminarnos no parece la mejor campaña para vender acciones, salvo que, como los fabricantes de armamento que presumen del misil más eficiente o del dron más letal, el objetivo sea precisamente exhibir potencia tecnológica para inflar el atractivo ante los inversores. El cinismo es sideral: si tanto miedo les dan sus productos, solo haría falta que los apagaran, pero con estas cifras en el horizonte, el mercado pesa más que cualquier comité de ética.
Mientras tanto, en los niveles más altos del gobierno de los Estados Unidos circulan propuestas aún más expeditivas. Jacob Stokes, exasesor de la Casa Blanca, ha publicado un informe para el think tank CNAS en el que pide que Washington valore ataques cibernéticos, espionaje e, incluso, bombardeos sobre las gigafábricas chinas de inteligencia artificial, para evitar que Pekín llegue primero a la IA general. La propuesta me recuerda a las acciones militares de hace unas décadas para liberar al mundo de unas supuestas armas de destrucción masiva, aquellas de las que un expresidente español aseguraba tener pruebas sin despeinarse. La diferencia es que cuesta mucho más enseñar fotografías de un algoritmo maligno al Consejo de Seguridad de la ONU.
Alguien debería pararle los pies a los tecnobros antes de que el daño sea irreparable. Ahora bien, vale la pena hacerse una pregunta menos cómoda: si la humanidad se tiene que extinguir, ¿prefiere hacerlo de golpe, en pocas semanas, por falta de agua potable, de medicamentos o de electricidad porque alguien decidió apagar la red? ¿O prefiere hacerlo poco a poco, aceptando sin muchas preguntas que el scroll infinito y los algoritmos adictivos de Instagram, TikTok o YouTube vayan friendo el cerebro de los usuarios (no solo de los adolescentes), hasta llegar a una sociedad dividida entre ciudadanos idiotizados y un grupo reducido de individuos que gestionan los mecanismos que los idiotizan?
Australia y la Unión Europea ya han movido ficha: la primera obligará a las plataformas a permitir desactivar la recomendación automática de contenido, y la segunda utiliza la ley de servicios digitales para exigir a las grandes tecnológicas que dejen de diseñar las redes como una máquina de enganchar, cosa que Washington, en tiempos trumpistas, no se priva de tildar de ataque proteccionista. Un gesto pequeño comparado con bombardear centros de datos, pero más al alcance de cualquiera que desplegar un ejército. Mientras unos debaten cómo evitar el apocalipsis en mayúsculas, la otra extinción, la de baja intensidad, hace tiempo que ya ha comenzado, y las propuestas para detenerla son más bien tímidas.
