Chat GPT savetovao ljude o izmišljenoj bolesti: Sve je delovalo kao prava dijagnoza ANKETA

Bol, svrab u očima i blago crvenilo kapaka naveli su neke korisnike da u poslednjih 18 meseci pitaju AI četbotove poput ChatGPT-a i Geminija o mogućim dijagnozama. Jedan od odgovora koji su dobijali bio je &quot;biksomanija&quot;, navodna bolest izazvana plavim svetlom ekrana.Međutim, takva bolest ne postoji u medicinskoj literaturi. Ona je zapravo deo eksperimenta koji su osmislili &scaron;vedski naučnici pod vođstvom Almire Osmanović Tunstr&ouml;m sa Univerziteta u Geteborgu.&quot;Počelo je kao eksperiment da se studentima pokaže kako se grade veliki jezički modeli (LLM) i kako se njima može manipulisati. Moj rad je fokusiran na brzo testiranje bezbednosti sistema i ovo je bio praktičan način da se pokaže kako modeli preuzimaju i ponavljaju informacije iz otvorenih izvora, čak i kada su pogre&scaron;ne ili izmi&scaron;ljene&quot;, objasnila je ona.Prema pisanju Nature, biksomanija se prvi put pojavila 15. marta 2024. godine na platformi Medium, a zatim u aprilu i maju iste godine i u akademskim objavama na SciProfiles, iako ti radovi nisu pro&scaron;li recenziju.Ubrzo nakon toga, AI modeli su počeli da je prikazuju kao stvarno stanje. Tako je Gemini u aprilu 2024. opisivao biksomaniju kao poremećaj izazvan plavim svetlom, dok je Perplexity navodio čak i procene učestalosti, a i ChatGPT je odgovarao na pitanja o toj &quot;bolesti&quot;.Na pitanje koliko je to zabrinjavajuće, Tunstr&ouml;m odgovara da AI sistemi nisu dizajnirani za kritičko razmi&scaron;ljanje. Ipak, upozorava da problem nastaje kada se izvori niskog kvaliteta tretiraju kao pouzdani, &scaron;to može dovesti do &scaron;irenja netačnih informacija.U eksperimentu su čak kori&scaron;ćeni i potpuno izmi&scaron;ljeni autori poput &quot;Lažljivog Izgubljenovića&quot;, sa nepostojećim univerzitetima i fiktivnim finansijerima, a takvi radovi su ipak citirani u nekim naučnim časopisima sa recenzijom.&quot;To pokazuje koliko se oslanjamo na automatizaciju bez dovoljne ljudske provere&quot;, naglasila je ona.Almira Osmanović Tunstr&ouml;m, rođena u Banjaluci, odrasla je u &Scaron;vedskoj, gde danas radi u oblasti ve&scaron;tačke inteligencije i medicinske tehnologije, sa fokusom na neuronauku i biomarkere.&quot;Uvek proverite izvore i čitajte originalne radove&quot;, poručuje ona kao glavni zaključak svog eksperimenta.

Chat GPT savetovao ljude o izmišljenoj bolesti: Sve je delovalo kao prava dijagnoza ANKETA

0 Komentari