Deloitte devuelve miles de dólares al gobierno australiano por un informe con errores cometidos por la IA

SidneyCuando a principios de agosto, Christopher Rudge, académico de la Universidad de Sidney, leía un informe de Deloitte comisionado por el gobierno australiano tuvo que consultar las referencias en dos ocasiones: "No reconocí ninguno de los títulos de los libros, y algunos ensayos tenían nombres estrambóticos", recuerda. Inquieto llamó a la puerta de algunos compañeros de facultad ("Este era el título de tu libro, ¿verdad?"), antes de volver al documento y comprobar que hasta tres referencias no existían. "En ese momento entendí que no podía ser otra cosa que inteligencia artificial".

El texto encargado por el departamento de Trabajo y Relaciones Laborales (DEWR, en sus siglas en inglés) en Deloitte exploraba la legalidad de un sistema automático de cancelación de prestaciones para personas sin trabajo. Rudge vio que se hablaba de ello en la prensa, pero sin mencionar el uso de la IA, y decidió escribir un correo electrónico a los periodistas delAustralian Financial Review.

Fue entonces cuando el departamento de Trabajo y Relaciones Laborales se enteró de los errores, y al día siguiente, el 24 de agosto, Deloitte se puso en contacto con el departamento de Finanzas del gobierno australiano. La multinacional no solo accede a revisar el informe, de 237 páginas –que costó a las arcas públicas 439.142 dólares australianos, unos 246.750 euros–, sino que al final ha aceptado devolver 97.587 dólares (unos 54.830 euros).

"Al final debía pillarse alguien utilizando la IA en un documento importante", afirma Terry Flew, codirector del Centro para Inteligencia Artificial, Confianza y Gobernanza de la Universidad de Sidney. Flew apunta que este caso es un buen ejemplo para señalar a las consultoras como jefe de turco, pero que prohibir el uso de la IA es "imposible" y que se sustenta en la idea de que son "mecanismos para perpetuar el fraude".

"¿Desconectarías el corrector de Word? Estas son cuestiones que dependen del contexto. Pienso que la idea de que un gobierno pueda legislar si la IA se puede o no se puede utilizar para la creación de documentos es muy difícil de sostener. Puedes tener provisiones en los contratos públicos, pero aquí es el gobierno quien tiene el poder", apunta Flew.

Deloitte, que factura más de 50.000 millones de dólares americanos anuales al proporcionar consejo y formación en IA a sus clientes, corrigió las notas a pie de página y una referencia inventada del Tribunal Federal tras asegurar que las conclusiones del informe no se veían afectadas. "No es una investigación rigurosa", sugiere Rudge, quien subraya que la compañía alegó al principio un error de transcripción, "aunque las referencias eran reales, seguía siendo absurdo".

La adición a las consultoras

Según una investigación del Senado, el gasto en consultoras se triplicó entre 1989 y 2017, y se volvió a multiplicar por tres entre 2010 y 2020, lo que convirtió a Australia en el cuarto mercado mundial con un gasto per cápita del doble que Suecia o Canadá. Una tendencia que el actual primer ministro, Anthony Albanese, prometió revertir con 8.700 trabajadores públicos, aunque un estudio encargado por los Verdes australianos en la biblioteca parlamentaria muestra que, si bien es cierto que las Big4 (Deloitte, KPMG, EY y PwC) han perdido parte del pastel2, la cifra total 2 acercarse al millón de dólares (unos 600.000 euros).

"El desastre de la IA de Deloitte fue preocupante, pero no una sorpresa tras el escándalo de PwC [que a finales del 2024 fue pillada compartiendo información gubernamental con sus clientes sobre cambios en la política fiscal]", declara la senadora de los Verdes, Barbara Pocock. "Otra vez, vemos cómo trabajos clave de gobierno se externalizan con un alto cuerpo para los contribuyentes", añade. Por eso su grupo ha introducido una propuesta de ley para prohibir durante cinco años los contratos públicos con compañías que no tengan un comportamiento ético.

"Esto dotaría a Australia de poder para excluir estos comportamientos de los contratos gubernamentales. Es un paso largamente esperado hacia la transparencia y esperamos que el gobierno decida trabajar con nosotros", añade Pocock, que también es portavoz de los Verdes sobre finanzas y sector público. Sin embargo, una propuesta que sólo se aprobaría con el voto a favor de la mayoría laborista que sustenta el gobierno, que, este mes, ha aceptado que PwC vuelva a optar a contratos públicos después de menos de un año de exclusión.