Kontroverza: Izveštaj o AI pun halucinacija

Reč je o dokumentu pod nazivom "Total Experience: Redefining Excellence in the Age of Agentic AI", objavljenom prošlog oktobra, u kojem je jedna od najvećih svetskih konsultantskih kuća analizirala primenu AI sistema u poslovanju.

Istragu je sproveo GPTZero, kompanija poznata po alatima za detekciju AI sadržaja, a njihove nalaze naknadno je potvrdio i Financial Times.

Prema rezultatima istrage, svega pet od ukupno 45 citata u izveštaju zaista je vodilo do relevantnih i postojećih izvora. Čak 28 referenci sadržalo je izmenjene naslove ili izmišljene elemente, dok je 12 bilo toliko nejasno formulisano da nije bilo moguće potvrditi njihovo postojanje.

Kako navodi GPTZero, ovo se zove "vibe citing", odnosno generisanje uverljivih, ali nepostojećih izvora od strane AI modela.

Krupne greške

Problem nije bio ograničen samo na citate. Istraživači tvrde da je približno polovina navoda u izveštaju bila netačna ili pogrešno pripisana drugim kompanijama.

Jedan od primera odnosio se na avio-kompaniju Emirates, za koju je KPMG tvrdio da koristi AI četbot pod nazivom Sara koji putnicima može menjati rezervacije letova. Međutim, Sara je zapravo digitalni asistent predstavljen 2023. godine i nema mogućnost izmene rezervacija.

Slične netačnosti pronađene su i u navodima o investicionoj banci UBS, kao i o švajcarskim železnicama SBB, koje su demantovale tvrdnje iz izveštaja.

Shutterstock/Deemerwha studio

Stručnjaci upozoravaju da ovakvi dokumenti mogu imati ozbiljne posledice, jer se izveštaji velikih konsultantskih kuća često koriste kao izvor za akademska istraživanja, medijske tekstove i poslovne analize.

KPMG je saopštio da ozbiljno shvata tačnost i integritet objavljenog sadržaja, te da trenutno sprovodi internu istragu o okolnostima koje su dovele do objavljivanja spornog dokumenta.