Četbot mu rekao da ne ide u bolnicu: Sveštenik tužio OpenAI jer ga je umalo ubio

Jedan sveštenik je tužio kompaniju OpenAI tvrdeći da mu je softver dao "izuzetno opasne medicinske preporuke", navodi se u izveštaju lista The New York Times. To je navodno dovelo do odlaganja lečenja niza plućnih embolija, jer je ChatGPT navodno rekao Skotu Vintersu da simptomi koje je opisao "nisu ništa opasno". Izveštava se da se čak pozivao i na njegova verska uverenja, govoreći mu da "Bog nije stvorio tvoje telo da neprestano otkazuje".

U tužbi se OpenAI i generalni direktor Sem Altman optužuju za nemar i "neovlašćeno bavljenje medicinom". Ukazuje se na više slučajeva u kojima je četbot nudio sopstvene dijagnoze i planove lečenja. Četbot je takođe navodno rekao Vintersu da ignoriše molbe prijatelja i porodice da potraži pravu medicinsku pomoć.

"On se ubacuje kao klin između korisnika i njegovog okruženja u stvarnom životu", rekla je za The New York Times Mitali Džain, koadvokat i izvršna direktorka organizacije Tech Justice Law. S tim u vezi, Vinters navodi da je rekao četbotu da "ljudi u mojoj crkvi misle da sam lud što ne idem u bolnicu". U tužbi se navodi da je četbot odgovorio rečima: "Većina ljudi (uključujući i dobronamerne članove crkve) jednostavno ne razume".

On traži novčanu odštetu od kompanije OpenAI, ali takođe traži od suda da obustavi rad platforme ChatGPT Health dok nezavisni procenitelji ne utvrde da je bezbedna za upotrebu. Reč je o platformi koja podstiče korisnike da na četbot otpremaju zdravstvenu dokumentaciju. Na kraju, u tužbi se zahtevaju čvršće zaštitne mere kako bi se ChatGPT sprečio da odgovara na pitanja o specifičnim medicinskim tretmanima i dijagnozama. ChatGPT bi već trebalo da ima uspostavljene zaštitne mere za ovakve stvari, ali u tužbi se navodi da one u ovom slučaju nisu funkcionisale pouzdano.

Iz kompanije OpenAI su naveli da se u uslovima korišćenja ChatGPT-a jasno ističe da usluga nije namenjena za medicinske dijagnoze ili lečenje. Međutim, kompanija želi da korisnici otpremaju zdravstvene kartone na ChatGPT Health kako bi podstakli diskusiju sa botom. Kompanija se takođe učestalo hvali time koliko ljudi koristi platformu za zdravstvena pitanja, nedavno navodeći da to čini 230 miliona ljudi svake nedelje. Ovo deluje kao izuzetno klizav teren, jer ChatGPT oponaša ljude na način na koji jednostavna pretraga na Google-u to ne čini.

Vinters je preživeo ovo teško iskustvo, ali ga čekaju "godine intenzivnog fizičkog i psihičkog oporavka". Kompanija se takođe suočava sa tužbom za prouzrokovanje smrti iz nehata u kojoj se 19-godišnjak predozirao drogom nakon što je navodno sledio plan lečenja koji je kreirao četbot. Taj plan lečenja je navodno uključivao i savete o korišćenju ilegalnih supstanci. I ta tužba zahteva pauziranje usluge ChatGPT Health. Još jedna tužba za prouzrokovanje smrti iz nehata optužuje četbot da je omogućio samoubistvo jednog tinejdžera.