Deloitte torna milers de dòlars al govern australià per un informe amb errors comesos per la IA
El text, encarregat pel departament de Treball, contenia referències errònies i inexistents
SidneyQuan a principis d’agost, Christopher Rudge, acadèmic de la Universitat de Sidney, llegia un informe de Deloitte comissionat pel govern australià va haver de consultar les referències dues vegades: “No vaig reconèixer cap dels títols dels llibres, i alguns assaigs tenien noms estrambòtics”, recorda. Inquiet va trucar a la porta d’alguns companys de facultat (“Aquest era el títol del teu llibre, oi?”), abans de tornar al document i comprovar que fins a tres referències no existien. “En aquest moment vaig entendre que no podia ser altra cosa que intel·ligència artificial”.
El text encarregat pel departament de Treball i Relacions Laborals (DEWR, en les sigles en anglès) a Deloitte explorava la legalitat d’un sistema automàtic de cancel·lació de prestacions per a persones sense feina. Rudge va veure que se’n parlava a la premsa, però sense esmentar l’ús de la IA, i va decidir escriure un correu electrònic als periodistes de l’Australian Financial Review.
Va ser aleshores quan el departament de Treball i Relacions Laborals es va assabentar dels errors, i l'endemà, el 24 d’agost, Deloitte es va posar en contacte amb el departament de Finances del govern australià. La multinacional no només accedeix a revisar l’informe, de 237 pàgines –que va costar a les arques públiques 439.142 dòlars australians, uns 246.750 euros–, sinó que al final ha acceptat tornar 97.587 dòlars (uns 54.830 euros).
“Al final s'havia d'enxampar algú fent servir la IA en un document important”, afirma Terry Flew, codirector del Centre per a Intel·ligència Artificial, Confiança i Governança de la Universitat de Sidney. Flew apunta que aquest cas és un bon exemple per assenyalar les consultores com a cap de turc, però que prohibir l’ús de la IA és “impossible” i que se sustenta en la idea que són “mecanismes per perpetuar el frau”.
“Desconnectaries el corrector de Word? Aquestes són qüestions que depenen del context. Penso que la idea que un govern pugui legislar si la IA es pot o no es pot fer servir per a la creació de documents és molt difícil de sostenir. Pots tenir provisions en els contractes públics, però aquí és el govern qui té el poder”, apunta Flew.
Deloitte, que factura més de 50.000 milions de dòlars americans anuals en proporcionar consell i formació en IA als seus clients, va corregir les notes a peu de pàgina i una referència inventada del Tribunal Federal després d'assegurar que les conclusions de l’informe no es veien afectades. “No és una investigació rigorosa”, suggereix Rudge, que subratlla que la companyia va al·legar al principi un error de transcripció, “encara que les referències eren reals, seguia sent absurd”.
L’addició a les consultores
Segons una investigació del Senat, la despesa en consultores es va triplicar entre 1989 i 2017, i es va tornar a multiplicar per tres entre 2010 i 2020, cosa que va convertir Austràlia en el quart mercat mundial amb una despesa per càpita del doble que Suècia o el Canadà. Una tendència que l’actual primer ministre, Anthony Albanese, va prometre revertir amb 8.700 treballadors públics, encara que un estudi encarregat pels Verds australians a la biblioteca parlamentària mostra que, si bé és cert que les Big4 (Deloitte, KPMG, EY i PwC) han perdut part del pastís, la xifra total de l’últim any fiscal, 2024-25, es va acostar al milió de dòlars (uns 600.000 euros).
“El desastre de la IA de Deloitte va ser preocupant, però no una sorpresa després de l’escàndol de PwC [que a finals del 2024 va ser enxampada compartint informació governamental amb els seus clients sobre canvis en la política fiscal]”, declara la senadora dels Verds, Barbara Pocock. “Una altra vegada, veiem com feines clau de govern s’externalitzen amb un alt cos per als contribuents”, afegeix. Per això el seu grup ha introduït una proposta de llei per prohibir durant cinc anys els contractes públics amb companyies que no tinguin un comportament ètic.
“Això dotaria Austràlia de poder per excloure aquests comportaments dels contractes governamentals. És un pas llargament esperat cap a la transparència i esperem que el govern decideixi treballar amb nosaltres”, afegeix Pocock, que també és portaveu dels Verds sobre finances i sector públic. Una proposta, però, que només s’aprovaria amb el vot a favor de la majoria laborista que sustenta el govern, que, aquest mes, ha acceptat que PwC torni a optar a contractes públics després de menys d’un any d’exclusió.
