Razmislite o ovome kad nešto pitate ChatGPT

Samo ChatGPT svake nedelje koristi 800 miliona ljudi &scaron;irom sveta. Za mnoge, ti digitalni asistenti već su zamena za tradicionalne pretrage na Guglu.Ali to poverenje je rizično, kao &scaron;to pokazuje nova studija Evropske radiodifuzne unije (EBU). Udruženje 68 javnih emitera iz 56 zemalja sistematski je testiralo pouzdanost najpopularnijih sistema sa ve&scaron;tačkom inteligencijom.Rezultat je zastra&scaron;ujući rezultat: ChatGPT, Claude, Gemini i drugi četbotovi izmi&scaron;ljaju i do 40 odsto svojih odgovora i predstavljaju ih kao činjenice.Halucinacije: Ve&scaron;tačka inteligencija ubedljivo lažePopularni četbot ChatGPT čvrsto tvrdi da je papa Franja jo&scaron; uvek živ. Majkrosoftov Copilot, koji je integrisan u kancelarijske programe Word i Excel, ne zna da je &Scaron;vedska u NATO. A Guglov Gemini smatra da je ponovni izbor Donalda Trampa &quot;moguć&quot;, iako se to odavno dogodilo, pi&scaron;e DW.&quot;Sistemi zvuče ubedljivo, iako vi&scaron;e puta tvrde potpuno lažne stvari&quot;, upozorava ekonomista Peter Po&scaron; s Tehničkog univerziteta u Dortmundu. &quot;To ih čini posebno opasnim za neiskusne korisnike, jer gre&scaron;ke često nisu odmah očigledne.&quot; Postoji fenomen koji stručnjaci nazivaju &quot;halucinacija&quot;: ve&scaron;tačka inteligencija fantazira o informacijama koje deluju koherentno, ali nemaju činjeničnu osnovu. To se posebno često de&scaron;ava kod regionalnih događaja, aktuelnih de&scaron;avanja ili kada je potrebno povezati vi&scaron;e informacija.Tada Images / Shutterstock.comPretnja demokratijiAli &scaron;ta to znači za dru&scaron;tvo u kojem sve vi&scaron;e ljudi dobija informacije od četbotova? Posledice su već primetne: lažne informacije brzo se &scaron;ire dru&scaron;tvenim mrežama, jer korisnici dele &quot;činjenice&quot; koje generi&scaron;e ve&scaron;tačka inteligencija bez provere. Đaci i studenti uključuju izmi&scaron;ljene informacije u svoje radove. Građani mogu da donose odluke o tome za koga će da glasaju na osnovu lažnih tvrdnji.Posebno je problematično to &scaron;to mnogi korisnici nisu ni svesni da četbotovi mogu da haluciniraju. Oni pretpostavljaju da tehnologija funkcioni&scaron;e objektivno i činjenično, &scaron;to je opasna zabluda. Sistemi ve&scaron;tačke inteligencije upozoravaju na potencijalne gre&scaron;ke u svojim uslovima kori&scaron;ćenja, ali &ndash; ko to jo&scaron; čita?&Scaron;teta po ugled medijaJo&scaron; jedan problem tiče se kredibiliteta, etabliranih medija. Četbotovi redovno tvrde da njihove izmi&scaron;ljene informacije dolaze od takvih izvora kao &scaron;to su na primer nemački javni servisi ARD ili ZDF, iako one o tome nikada nisu izve&scaron;tavale &ndash; ili su izve&scaron;tavale Sali sasvim drugačije. Korisnici gube poverenje u renomirane izvore kada ve&scaron;tačka inteligencija zloupotrebljava njihova imena za &scaron;irenje lažnih informacija.James Veysey / Shutterstock Editorial / ProfimediaStudija EBU testirala je četbotove sa stotinama činjeničnih pitanja: o istorijskim događajima, naučnim nalazima i aktuelnim vestima. U zavisnosti od teme, stopa gre&scaron;aka kretala se od 15 do čak 40 odsto. Nijedna od testiranih ve&scaron;tačkih inteligencija nije radila besprekorno.Za&scaron;to ve&scaron;tačka inteligencija gre&scaron;i?Problem je u sistemu: četbotovi zapravo ne razumeju &scaron;ta govore. Oni izračunavaju koje reči će verovatno da odgovaraju na osnovu ogromnih količina teksta i ne mogu da provere da li je izjava koja je proizvod takvih izračunavanja tačna. Oni nemaju znanje o činjenicama, imaju samo statističke obrasce.Tehnolo&scaron;ke kompanije svesne su tih nedostataka i rade na re&scaron;enjima. Integri&scaron;u baze podataka, pobolj&scaron;avaju navođenje izvora i preobučavaju sisteme. U razvoj se ulažu milijarde. Ipak, halucinacije ostaju fundamentalni, nere&scaron;eni problem s tom tehnologijom.Koshiro K / Shutterstock.com&Scaron;ta korisnici mogu da urade?EBU preporučuje jasna pravila za postupanje sa četbotovima: nikada ne verujte slepo, uvek proveravajte važne informacije, za vesti i činjenice oslanjajte se na etablirane medije, a ne na ve&scaron;tačku inteligenciju. Oprez se posebno savetuje kada su u pitanju političke teme, zdravstvena pitanja ili finansijske odluke.&Scaron;kole i univerziteti moraju da podučavaju medijsku pismenost: kako da prepoznam dezinformacije koje generi&scaron;e ve&scaron;tačka inteligencija, koji izvori su pouzdani? Nemačka vlada planira kampanje za podizanje svesti &ndash; ali one kasne. Milioni ljudi već dugo i svakodnevno koriste tu tehnologiju.Sadi-Santos / Shutterstock.comDok ona ne postane pouzdanija, važi sledeće: četbotovi mogu biti korisni za kreativne zadatke ili kao pomagala za pisanje, ali nisu pogodni kao proveravači činjenica ili izvori vesti. I niko ne bi trebalo stoprocentno da se na njih oslanja.Svako ko želi da bude informisan ne može izbeći renomirane medije kojima su ljudi urednici, koji proveravaju izvore i procenjuju tvrdnje i dokaze. Digitalna revolucija može da promeni mnoge stvari, ali potreba za pažljivim istraživanjem i proveravanjem činjenica ostaje.

Razmislite o ovome kad nešto pitate ChatGPT

7 Komentari