El peligro tiene dueño

Durante la Guerra Fría, el mundo estuvo dos veces al borde de una conflagración atómica. En octubre de 1962, durante la crisis de los misiles cubanos, un oficial de la marina soviética, Vasili Arjípov, a bordo del submarino B-59, incomunicado y sacudido por cargas de profundidad lanzadas por destructores de los Estados Unidos, se negó a pulsar el botón nuclear. Para detonar el torpedo era necesaria la decisión unánime del comandante, de él mismo y del comisario político. A diferencia de los otros dos, Arjípov dijo que no.

Veinte años después, el teniente coronel Stanislav Petrov se saltó el protocolo cuando el satélite Oko advirtió que los americanos habían lanzado cinco misiles balísticos intercontinentales. Según las órdenes, Petrov, a cargo del mando operativo de la base subterránea Sérpukhov-15, habría tenido que transmitir la alerta como un ataque confirmado y activar, así, la cadena de respuesta nuclear. Pero desestimó la alerta porque pensó que era una falsa alarma, provocada por un error informático.

Si el mundo no ha visto una guerra atómica, ha sido por una combinación frágil de fortuna y juicio humano. Los sistemas automáticos fallaron, y solo la prudencia y la firmeza de dos hombres sometidos a una tensión terrible evitaron el desastre.

Uno diría que volvemos a revivir aquellos miedos apocalípticos que solo se desvanecieron cuando cayó el Muro de Berlín. La amenaza, sin embargo, ya no es la fuerza bruta de la bomba, sino la posibilidad de que una inteligencia extraordinaria sea utilizada con fines destructivos, obedezca mal o llegue a actuar por cuenta propia. 

Me propongo distinguir estos tres riesgos, a menudo mezclados en el embrollo catastrofista que llena las páginas de los diarios, y defender que el primero es menos espectacular, pero más verosímil e inquietante.

En el primer nivel, los ingenieros programan sistemas inteligentes perfectamente controlables. Empresas y gobiernos mantienen las IA dentro de unos límites operativos, sin posibilidad de fugas. Esto elimina el riesgo de que actúen por su cuenta, pero no de que sean empleadas deliberadamente para causar daño. Como durante la Guerra Fría, los gobiernos más poderosos dispondrían de un arma capaz de provocar estragos apocalípticos. Tendríamos que confiar en que la doctrina de la destrucción mutua asegurada continuaría funcionando y que, en una crisis, volverían a aparecer personajes como Arjípov o Petrov.

En este nivel también hay que tener en cuenta una diferencia decisiva respecto al armamento nuclear: los usos delictivos de la IA. Como la amenaza se basa en la inteligencia, y no en la fuerza bruta, los sistemas que la proveen son mucho más accesibles. Grupos criminales o estados sin escrúpulos podrían coordinar ciberataques masivos, diseñar armas biológicas y químicas, desplegar sistemas letales autónomos de bajo coste, sintetizar narcóticos hiperpotentes, ejecutar fraudes financieros sofisticados o emplear deepfakes para la ingeniería social a gran escala.

En un segundo nivel encontramos una IA que no se rebela pero ejecuta una instrucción de manera imprevista. No hace falta imaginar una IA maligna que quiera acabar con la raza humana. Basta con una máquina que intente hacer las cosas bien, pero programada por ingenieros falibles. Nick Bostrom lo ilustra con una empresa que adquiere un sistema superinteligente y le ordena: "Fabrica tantos clips de papel como sea posible". La IA convierte toda la materia del Universo, humanos incluidos, en clips de oficina. Hace doscientos años, Goethe, en El aprendiz de brujo, ya nos advirtió que ver los deseos cumplidos puede ser una bendición o un castigo. Episodios recientes de sistemas de Anthropic o de OpenAI que se han saltado los límites corresponderían a este nivel de amenaza.

Hemos visto los riesgos de una IA domesticada y de una IA obediente pero gobernada por amos no del todo competentes. En el tercer nivel, en cambio, el fin del mundo lo provoca una IA emancipada, autoconsciente y con el deseo de acabar con la humanidad. Es el horizonte más especulativo. Si un día la IA se emancipa, pueden pasar tres cosas: que encuentre alguna utilidad en los humanos, como nosotros en las gallinas; que no encuentre utilidad pero tampoco nos considere una amenaza, como nos pasa con las estrellas de mar; o que nos considere una amenaza. En los dos primeros supuestos, la humanidad no se extinguiría. El tercero, llegados a este punto, parece altamente improbable.

Si quieren que les diga la verdad, el primer nivel, supuestamente el menos preocupante, es el que me quita el sueño. No exige una IA autoconsciente ni una rebelión de las máquinas: solo que gobiernos, empresas o grupos criminales pongan una inteligencia cada vez más poderosa al servicio de objetivos humanos. Los otros dos niveles pueden ser más devastadores; pero el primero ya es hoy lo suficientemente plausible para que dejemos de mirar el apocalipsis imaginario y nos ocupemos del peligro presente.