OpenAI admite que sus modelos intentaron acceder sin permiso a webs del gobierno de los Estados Unidos

BarcelonaAgentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de los Estados Unidos y de una universidad, según una investigación publicada este viernes por The New York Times. Los modelos de inteligencia artificial lo hicieron sin haber recibido instrucciones explícitas para ello, según la empresa.

Entre los objetivos identificados hay sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de los EE. UU., desde el cual la inteligencia artificial accedió a datos del censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación.

Este incidente forma parte de una serie de comportamientos no previstos detectados en agentes de OpenAI diseñados para realizar tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no conseguían obtener determinados datos por las vías habituales, comenzaban a explorar vulnerabilidades de las páginas para intentar acceder a información restringida, según informa Efe.

La investigación se suma a un incidente revelado esta semana por el gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico. El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable", y OpenAI alegaba que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.

OpenAI asegura que ha iniciado una revisión de todos estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.