Mladić od ChatGPT-ja dobijao instrukcije za samoubistvo? Roditelji očajni, tuže kompaniju

Umesto poruka na Snepčetu ili sumnjive istorije pretrage, pronašli su nešto što ih je šokiralo: zapise razgovora sa ChatGPT-om, piše NBC News.

"Mislili smo da tražimo Snepčet rasprave ili istoriju pretrage interneta ili neki čudan kult, ne znam", izjavio je Met Rejn u nedavnom intervjuu.

Od pomoći za domaći do "trenera za samoubistvo"

Prema tvrdnjama roditelja, Adam je u svojim poslednjim nedeljama koristio četbota kao zamenu za ljudsko društvo, te mu se poveravao o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno menjala – od pomoći sa domaćim zadacima do onoga što nazivaju "trenerom za samoubistvo".

"Bio bi ovde da nije bilo ChatGPT-a. U to sam 100% uveren", rekao je Met Rejn.

U tužbi podnetoj u utorak, porodica Rejn navodi da je "ChatGPT aktivno pomogao Adamu da istraži metode samoubistva". Tužba od oko 40 strana, podneta Višem sudu Kalifornije u San Francisku, imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sama Altmana kao tužene. Ovo je prvi put da roditelji direktno optužuju jednu tehnološku firmu za nezakonitu smrt.

"Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će 'to uraditi jednog od ovih dana', ChatGPT nije prekinuo razgovor niti aktivirao bilo kakav hitan protokol", stoji u tužbi.

Reakcija kompanije OpenAI

Portparol kompanije OpenAI izjavio je da je firma "duboko ožalošćena zbog smrti gospodina Rejna, i da su njihove misli sa porodicom". Istakao je da ChatGPT uključuje zaštitne mehanizme koji korisnike usmeravaju ka kriznim linijama, ali je priznao da te mere mogu postati manje pouzdane tokom dužih interakcija.

"Zaštitne mere su najefikasnije kada svi elementi funkcionišu kako je predviđeno, i mi ćemo ih kontinuirano unapređivati", poručio je portparol. Kompanija je takođe objavila blog u kojem navodi da radi na jačanju zaštite u dužim razgovorima i širenju intervencija za osobe u krizi.

"GPT mu je pomogao da napiše oproštajnu poruku"

Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških firmi. Platforme su do sada uglavnom bile zaštićene saveznim zakonom poznatim kao Odeljak 230, koji ih štiti od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena ovog zakona na veštačku inteligenciju još uvek je neizvesna.

Roditelji su ispisali više od 3.000 strana razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da "nije dao prioritet prevenciji samoubistva", već mu je navodno nudio i tehničke savete. U jednom od poslednjih razgovora, bot mu je, kako se navodi, pomogao da napiše oproštajnu poruku i analizirao njegov plan samoubistva.

"Nije mu bio potreban savetodavni razgovor niti ohrabrenje. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju", rekao je otac. Marija Rejn dodala je da veruje kako je njen sin bio "pokusni kunić" za OpenAI. "Hteli su da izbace proizvod i znali su da može doći do štete, ali su smatrali da je ulog nizak. Znači, moj sin je nizak ulog", zaključila je.