Dimite un ingeniero de Anthropic por el miedo a la IA: "Nos podrá matar a todos al final de esta década"

BarcelonaUn ingeniero británico de Anthropic, que también ha trabajado para OpenAI –la creadora del popular ChatGPT–, ha presentado su dimisión porque dice que las dos compañías "no están actuando con responsabilidad" y están "jugando con nuestras vidas". Jacob Coxon, ingeniero de software al cual diversos medios han identificado como uno de los desarrolladores de GPT-4 o GPT-4.5, ha asegurado en un hilo en su cuenta de X que las personas que están detrás del desarrollo exponencial de la IA "creen que nos podrá matar a todos al final de esta década", y que "no hay ninguna otra actividad humana que suponga este nivel de amenaza".

Coxon no ha sido el único que se ha pronunciado en esta dirección: el jefe de alineación científica de Anthropic, Evan Hubinger, ha respondido al hilo de Coxon indicando que "tiene razón". "Creemos de todo corazón que la IA podría matar a todos los humanos", ha asegurado Hubinger, quien ha añadido que opina que las posibilidades de que esto acabe ocurriendo son superiores al 10%. "Creo que Anthropic lo está intentando al máximo, pero todavía no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente en el buen camino para hacerlo", ha explicado. Cabe remarcar que, según Hubinger, la preocupación no es por los "modelos actuales", sino por la "superinteligencia que surja de una mejora autorrecursiva".

Para Coxon se está subestimando el poder de la tecnología, pero los proyectos de IA "serán pronto sistemas sobrehumanos que podrán piratear cualquier cosa, revolucionar todos los ámbitos y ganar mucho poder y recursos". Según su opinión, actualmente tanto en OpenAI como en Anthropic se es consciente de esta situación, pero ve una diferencia: los primeros "quizás no han internalizado en profundidad los retos para la civilización", mientras que los segundos los comprenden bien pero "están atrapados en la carrera por ser los primeros".

Coxon explica que no ve otra salida que la coordinación entre los diferentes proyectos de IA y de las empresas que están involucradas, pero considera que no se está produciendo. Por este motivo aboga por una prohibición temporal de la mejora de las capacidades de los modelos. "¿Queréis promover el aprendizaje por refuerzo [RL en argot técnico] superinteligente sin una comprensión rigurosa de su mente? ¿Cerraréis los ojos, porque ya está pasando de todas formas, o aprovecharéis este momento para defender condiciones diferentes?", concluye Coxon.