EY povukao studiju koja je sadržavala AI halucinacije

Istraga je otkrila da njihovo izvješće o prijevari u programima nagrađivanja vjernosti sadrži izmišljene podatke i citate. Netočnosti u izvješću uočila je istraživačka skupina GPTZero, koja je identificirala brojne poveznice na fantomske web stranice, kao i referencu na nepostojeću McKinseyjevu studiju. EY kaže da je uklonio izvješće i da "pregleda okolnosti koje su dovele do objavljivanja ovog članka".

Jučer smo primili priopćenje za medije od komunikacijske tvrtke koja radi za grupu pod nazivom GPTZero. Trebali biste znati da svaki tjedan primamo vjerojatno stotinu ili više priopćenja za medije i većina je smeće, ali ovo se odmah istaknulo samo po naslovu: istraga otkriva da je EY-jevo izvješće 72% generirano umjetnom inteligencijom.

Istraga je otkrila da je izvješće EY Canada iz 2025. pod nazivom „Točke napada: Otkrivanje kibernetičkih prijetnji i prijevara u sustavima vjernosti“ bilo prepuno halucinacija: točnije 16 od 27 citata. „Iako se pripisuje trojici zaposlenika, uključujući dva partnera i višeg menadžera, izvješće je kolaž pogrešnih pripisivanja, netočnih statistika i teksta napisanog umjetnom inteligencijom“, pisalo je u e-poruci koju smo primili. „Na primjer, istraživački citati Forbesa, McKinseyja, Gartnera, TechCruncha i WIREDa bili su ili neispravni URL-ovi ili nikada nisu postojali.“

U objavi na blogu, GPTZero objašnjava svoj proces:

Izvješće EY Canada ne koristi fusnote ili uobičajene akademske citate. Umjesto toga, izravno navodi izvore u tekstu i/ili ih uključuje u tablicu izvora (str. 41-43). Ova tablica pruža naslov izvora, opis i URL za sve izvore, kao i izdavača i datum u određenim slučajevima. Gotovo svi URL-ovi su neispravni ili lažni, a više od polovice naslova ne odgovara stvarnim izvorima.

GPTZero koristi vrlo specifičnu definiciju vibrirajućeg citiranja zbog potencijalnog gubitka ugleda (i za nas i za autore izvješća) lažno pozitivnih rezultata. Jedan od članova našeg tima ručno je provjerio rezultate Hallucination Checka kako bi osigurao njihovu točnost.