Kontroverza: Izveštaj o AI pun halucinacija

Reč je o dokumentu pod nazivom &quot;Total Experience: Redefining Excellence in the Age of Agentic AI&quot;, objavljenom pro&scaron;log oktobra, u kojem je jedna od najvećih svetskih konsultantskih kuća analizirala primenu AI sistema u poslovanju.Istragu je sproveo GPTZero, kompanija poznata po alatima za detekciju AI sadržaja, a njihove nalaze naknadno je potvrdio i Financial Times.Prema rezultatima istrage, svega pet od ukupno 45 citata u izve&scaron;taju zaista je vodilo do relevantnih i postojećih izvora. Čak 28 referenci sadržalo je izmenjene naslove ili izmi&scaron;ljene elemente, dok je 12 bilo toliko nejasno formulisano da nije bilo moguće potvrditi njihovo postojanje.Kako navodi GPTZero, ovo se zove &quot;vibe citing&quot;, odnosno generisanje uverljivih, ali nepostojećih izvora od strane AI modela.Krupne gre&scaron;keProblem nije bio ograničen samo na citate. Istraživači tvrde da je približno polovina navoda u izve&scaron;taju bila netačna ili pogre&scaron;no pripisana drugim kompanijama.Jedan od primera odnosio se na avio-kompaniju Emirates, za koju je KPMG tvrdio da koristi AI četbot pod nazivom Sara koji putnicima može menjati rezervacije letova. Međutim, Sara je zapravo digitalni asistent predstavljen 2023. godine i nema mogućnost izmene rezervacija.Slične netačnosti pronađene su i u navodima o investicionoj banci UBS, kao i o &scaron;vajcarskim železnicama SBB, koje su demantovale tvrdnje iz izve&scaron;taja.Shutterstock/Deemerwha studioStručnjaci upozoravaju da ovakvi dokumenti mogu imati ozbiljne posledice, jer se izve&scaron;taji velikih konsultantskih kuća često koriste kao izvor za akademska istraživanja, medijske tekstove i poslovne analize.KPMG je saop&scaron;tio da ozbiljno shvata tačnost i integritet objavljenog sadržaja, te da trenutno sprovodi internu istragu o okolnostima koje su dovele do objavljivanja spornog dokumenta.

Kontroverza: Izveštaj o AI pun halucinacija

0 Komentari