AI halucinira i daje loše savete o zdravlju

Prema najnovijoj studiji, modeli veštačke inteligencije koji se sve češće koriste za pružanje zdravstvenih saveta imaju značajan problem – podložni su dezinformacijama ako su one upakovane u format koji imitira naučni autoritet.

Istraživanje je pokazalo da AI čettbotovi i veliki jezički modeli (LLM) često ne uspevaju da razlikuju proverene medicinske činjenice od lažnih tvrdnji ako se te tvrdnje nalaze na sajtovima koji koriste medicinsku terminologiju, reference koje deluju ubedljivo ili vizuelni identitet koji podseća na relevantne zdravstvene institucije.

Glavni problemi identifikovani u studiji su:

• AI modeli daju veći značaj strukturi teksta i autoritativnom tonu nego stvarnoj proveri podataka kroz baze kliničkih dokaza.
• Pošto se sve veći broj ljudi oslanja na AI za samolečenje i razumevanje simptoma, sposobnost tehnologije da "poveruje" u dezinformacije predstavlja ozbiljan rizik po javno zdravlje.
• Studija upozorava da kreatori lažnih vesti koriste upravo ove slabosti AI sistema kako bi progurali opasne medicinske savete u same odgovore koje generišu popularni AI asistenti.

Stručnjaci koji su radili na istraživanju ističu da trenutni zaštitni mehanizmi nisu dovoljni. Iako kompanije kao što su OpenAI, Google i Meta stalno unapređuju svoje modele, studija sugeriše da je neophodan radikalno drugačiji pristup u načinu na koji AI vrednuje izvore informacija.

"Problem nije samo u tome što AI može da pogreši, već u tome što on aktivno uči iz sofisticirano plasiranih neistina koje imitiraju nauku," navodi se u izveštaju.

Dok se tehnologija ne usavrši, lekari i istraživači apeluju na građane da AI alate koriste isključivo kao informativnu pomoć, a da se za bilo kakvu dijagnozu ili terapiju obrate kvalifikovanim medicinskim stručnjacima i proverenim institucijama.