Deloitte se našao u centru skandala nakon što je zbog "halucinacija" otkriveno da je izvještaj za australijsku vladu, vrijedan 439.000 australijskih dolara, djelimično napisala vještačka inteligencija.
Vještačka inteligencija može biti moćan alat, ali samo kada se koristi odgovorno i pod nadzorom. U suprotnom, može da nastane ozbiljan problem. Upravo to se dogodilo u Australiji, nakon što je otkriveno da je izvještaj koji je za vladu pripremio Deloitte, jedna od četiri najveće međunarodne konsultantske firme, sadržao "halucinacije" nastale korišćenjem AI alata.
Deloitte je za potrebe australijskog Ministarstva za zapošljavanje i radne odnose pripremio izvještaj vrijedan 439.000 australijskih dolara (oko 250.000 eura), koji je trebalo da pomogne u procjeni problema sa sistemom socijalne pomoći koji je kažnjavao nezaposlene. Međutim, dokument je sadržao brojne greške, uključujući reference na izmišljene studije.
Australijski "Financial Review" otkrio je da se izvještaj poziva na nepostojeća istraživanja akademika sa Univerziteta u Sidneju i Univerziteta Lund u Švedskoj. Nakon provjere, sporni izveštaj je povučen, a novi je objavljen 3. oktobra.
Australijska vlada je potvrdila da su reference bile pogrešne, ali da su suština i preporuke izvještaja ostale iste u novoj verziji.
Deloitte je priznao da je dio sadržaja nastao uz pomoć generativne vještačke inteligencije, tačnije "Azure OpenAI GPT-4o" modela. Ipak, pošto je utvrđeno da je AI korišćen bez odgovarajuće kontrole, Deloitte će vladi vratiti poslednju ratu ugovora.
Ovo je samo jedan u nizu slučajeva koji pokazuju koliko upotreba vještačke inteligencije može biti rizična ako se ne koristi bez adekvatne kontrole generisanih informacija - pogotovo za kompanije koje na takvim analizama zasnivaju zaključke.
Australijska vlada je saopštila da je slučaj "riješen direktno sa klijentom", ali je šteta po ugled jedne od najvećih svjetskih konsultantskih firmi već načinjena.