OpenAI detiene el lanzamiento de la última versión de ChatGPT por "problemas de seguridad"
Según fuentes de la compañía, el modelo no cumplía los estándares sobre cómo respetar las autorizaciones establecidas
BarcelonaOpenAI no lanzará, de momento, su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, por motivos de seguridad, según ha confirmado este martes la empresa creadora de ChatGPT. El modelo —que puede navegar por internet y utilizar aplicaciones de manera autónoma— “no terminaba de cumplir el nivel exigido” por los estándares de la compañía, según ha adelantado The Wall Street Journal.
OpenAI también ha informado este martes de diversos incidentes que se produjeron en junio, pero que no se conocieron hasta la semana pasada, en los que sus modelos accedieron sin autorización a webs y sistemas del gobierno australiano. Estos incidentes y otras vulneraciones similares han intensificado en las últimas semanas el debate sobre los riesgos de la inteligencia artificial, en muchos casos promovido por las mismas grandes tecnológicas que la desarrollan. Algunos de los principales directivos del sector, entre los cuales Sam Altman, de OpenAI, y Dario Amodei, director de Anthropic —responsable del popular modelo Claude—, han reclamado en las últimas semanas a la industria que ralentice el ritmo de desarrollo ante la preocupación por los riesgos asociados.
La decisión de OpenAI es un caso poco habitual. Según fuentes de la empresa, el modelo no cumplía los estándares sobre respeto del alcance y las autorizaciones establecidas, ni tampoco en lo que respecta a la información proporcionada al usuario sobre cómo ha desarrollado las tareas. El modelo insignia GPT-6 Astra, que se lanzó en septiembre, está especializado en razonamiento complejo y en la ejecución autónoma de tareas. OpenAI aseguró que era el resultado "de años de investigación y grandes apuestas". La versión que se ha detenido es la 6.1.
OpenAI tiene previsto realizar este martes en San Francisco su conferencia anual de desarrolladores, y se esperan diversos anuncios. No queda claro si habrá nuevas informaciones sobre los problemas con la última versión de ChatGPT.
Hackeo en Australia
Antes del anuncio ya se había constatado que la IA se salta los límites en la automatización de tareas de búsqueda de información. El gobierno australiano denunció la semana pasada que un agente de OpenAI había accedido en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos. El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable". OpenAI alegó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos. Albanese criticó a la empresa por haberle notificado el incidente a través de una dirección genérica de correo electrónico en lugar de contactar directamente con los funcionarios responsables. Open AI ha lamentado los hechos, ha admitido que "debería haber gestionado mejor la respuesta" y ha detallado que entre los departamentos afectados estaba el de Salud, Bienestar y el departamento de Interior de Nueva Gales del Sur.