Un grupo de investigadores avisó a la junta de OpenAI de los peligros para la humanidad de su nuevo descubrimiento
Miembros del proyecto alertaron en una carta antes del despido de Altman sobre los riesgos de un algoritmo
BarcelonaAntes de la destitución y posterior regreso a la empresa del consejero delegado de OpenAI, Sam Altman, varios investigadores del proyecto escribieron una carta al consejo de administración en la que advertían de un poderoso descubrimiento vinculado a la inteligencia artificial que podría amenazar a la humanidad. Según avanzó Reuters este miércoles, dos personas conocedoras de estos avances explicaron que se trataba de un algoritmo clave que estaba en desarrollo justo antes de la salida del directivo. Esta carta, con un aviso claro sobre los potenciales riesgos de los productos diseñados por la compañía, sería uno de los elementos en la larga lista de agravios que provocaron el despido de Altman por parte de la junta.
Internamente, este misterioso proyecto se llamaba "Q*" y se centraba en la búsqueda de sistemas autónomos que superan a los humanos en las tareas con mayor valor añadido. Según una de las fuentes citadas por Reuters, este nuevo modelo era capaz de resolver determinados problemas matemáticos. Precisamente, los investigadores consideran que las matemáticas son una de las fronteras en el desarrollo de la IA. Actualmente, estos sistemas son buenos para escribir y traducir a otros idiomas porque prevén estadísticamente cuál será la siguiente palabra. Por eso, las respuestas a una misma pregunta pueden variar mucho. Pero conquistar la capacidad de entender las matemáticas, donde solo existe una respuesta correcta, implicaría que la IA tuviera capacidades de razonamiento superiores y más parecidas a la inteligencia humana. Esto podría aplicarse a la investigación científica nueva, creen los investigadores.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, estos sistemas autónomos podrían generalizar, aprender y comprender. En su carta dirigida a la junta, los investigadores señalaron la destreza de esta nueva IA y su potencial peligro. Aún así, estas fuentes no especificaron cuáles eran las preocupaciones de seguridad concretas. Hace tiempo que se ha abierto un debate público entre ingenieros en todo el mundo sobre el peligro que representan las máquinas altamente inteligentes y, por ejemplo, si estas podrían decidir destruir a la humanidad en su interés.
Ciencia versus negocio
Como consejero delegado de OpenAI, Altman había concentrado sus esfuerzos en convertir ChatGPT en una de las aplicaciones de mayor crecimiento de la historia. Por ese motivo, el directivo se aseguró de conseguir la inversión y los recursos informáticos necesarios a través de Microsoft. De hecho, aparte de anunciar nuevas herramientas que estaba a punto de lanzar, Altman había dicho la pasada semana en una cumbre de líderes mundiales en San Francisco que había avances importantes a la vista. "Ya ha pasado cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, en las que he estado en una sala donde nos sacamos de los ojos el velo de la ignorancia y atravesamos la frontera del descubrimiento. Conseguirlo es el honor profesional de toda una vida", dijo en la cumbre de Cooperación Económica Asia-Pacífico. Un día después, la junta lo despidió.
Tras un ultimátum de la plantilla, en el que prácticamente el 90% del equipo de OpenAI firmó una carta pidiendo la reincorporación de Altman, el ejecutivo acabó volviendo el martes a la compañía en una posición aún más reforzada. Algunos de los miembros de la junta que forzaron su marcha ya no están, mientras que se han incorporado nuevos consejeros cercanos al gurú tecnológico que apoyarían sus posicionamientos pro negocio.
