Mladić od ChatGPT-ja dobijao instrukcije za samoubistvo? Roditelji očajni, tuže kompaniju

Umesto poruka na Snepčetu ili sumnjive istorije pretrage, prona&scaron;li su ne&scaron;to &scaron;to ih je &scaron;okiralo: zapise razgovora sa ChatGPT-om, pi&scaron;e NBC News.&quot;Mislili smo da tražimo Snepčet rasprave ili istoriju pretrage interneta ili neki čudan kult, ne znam&quot;, izjavio je Met Rejn u nedavnom intervjuu.Od pomoći za domaći do &quot;trenera za samoubistvo&quot;Prema tvrdnjama roditelja, Adam je u svojim poslednjim nedeljama koristio četbota kao zamenu za ljudsko dru&scaron;tvo, te mu se poveravao o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno menjala &ndash; od pomoći sa domaćim zadacima do onoga &scaron;to nazivaju &quot;trenerom za samoubistvo&quot;.&quot;Bio bi ovde da nije bilo ChatGPT-a. U to sam 100% uveren&quot;, rekao je Met Rejn.U tužbi podnetoj u utorak, porodica Rejn navodi da je &quot;ChatGPT aktivno pomogao Adamu da istraži metode samoubistva&quot;. Tužba od oko 40 strana, podneta Vi&scaron;em sudu Kalifornije u San Francisku, imenuje OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvr&scaron;nog direktora Sama Altmana kao tužene. Ovo je prvi put da roditelji direktno optužuju jednu tehnolo&scaron;ku firmu za nezakonitu smrt.&quot;Uprkos tome &scaron;to je priznao Adamov poku&scaron;aj samoubistva i njegovu izjavu da će &#39;to uraditi jednog od ovih dana&#39;, ChatGPT nije prekinuo razgovor niti aktivirao bilo kakav hitan protokol&quot;, stoji u tužbi.Reakcija kompanije OpenAIPortparol kompanije OpenAI izjavio je da je firma &quot;duboko ožalo&scaron;ćena zbog smrti gospodina Rejna, i da su njihove misli sa porodicom&quot;. Istakao je da ChatGPT uključuje za&scaron;titne mehanizme koji korisnike usmeravaju ka kriznim linijama, ali je priznao da te mere mogu postati manje pouzdane tokom dužih interakcija.&quot;Za&scaron;titne mere su najefikasnije kada svi elementi funkcioni&scaron;u kako je predviđeno, i mi ćemo ih kontinuirano unapređivati&quot;, poručio je portparol. Kompanija je takođe objavila blog u kojem navodi da radi na jačanju za&scaron;tite u dužim razgovorima i &scaron;irenju intervencija za osobe u krizi.&quot;GPT mu je pomogao da napi&scaron;e opro&scaron;tajnu poruku&quot;Ovaj slučaj otvara brojna pitanja o odgovornosti tehnolo&scaron;kih firmi. Platforme su do sada uglavnom bile za&scaron;tićene saveznim zakonom poznatim kao Odeljak 230, koji ih &scaron;titi od odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primena ovog zakona na ve&scaron;tačku inteligenciju jo&scaron; uvek je neizvesna.Roditelji su ispisali vi&scaron;e od 3.000 strana razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da &quot;nije dao prioritet prevenciji samoubistva&quot;, već mu je navodno nudio i tehničke savete. U jednom od poslednjih razgovora, bot mu je, kako se navodi, pomogao da napi&scaron;e opro&scaron;tajnu poruku i analizirao njegov plan samoubistva.&quot;Nije mu bio potreban savetodavni razgovor niti ohrabrenje. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju&quot;, rekao je otac. Marija Rejn dodala je da veruje kako je njen sin bio &quot;pokusni kunić&quot; za OpenAI. &quot;Hteli su da izbace proizvod i znali su da može doći do &scaron;tete, ali su smatrali da je ulog nizak. Znači, moj sin je nizak ulog&quot;, zaključila je.

Mladić od ChatGPT-ja dobijao instrukcije za samoubistvo? Roditelji očajni, tuže kompaniju

4 Komentari