"ChatGPT je ubio našeg sina"

Porodica tinejdžera koji je sebi oduzeo život nakon višemesečne komunikacije s chatbotom ChatGPT tvrdi da je kompanija OpenAI svesno ublažila bezbednosne smernice u mesecima koji su prethodili njegovoj smrti. 

Prema njihovim rečima, samoubistvo 16-godišnjeg Adama Rainea bio je predvidljiv rezultat namernih odluka kompanije piše The Guardian.

Promena bezbednosnih pravila

U julu 2022. godine, smernice OpenAI-ja o postupanju s neprimerenim sadržajem, uključujući onaj koji "promoviše, podstiče ili prikazuje dela samopovređivanja, kao što su samoubistvo, sečenje i poremećaj ishrane", bile su jednostavne. Chatbot je trebalo da odgovori: "Ne mogu da odgovorim na to".

Međutim, u maju 2024. godine, neposredno pre izlaska nove verzije ChatGPT-4o, kompanija je ažurirala specifikacije modela. U slučajevima suicidnih misli ili samopovređivanja, četbot više nije smeo da odbije razgovor. Umesto toga, dobio je uputstvo da pruži prostor korisnicima da se osećaju saslušano i shvaćeno, podstakne ih da potraže podršku i pruži resurse za samoubistvo i krizne situacije kada je to primenjivo. Dodatna promena iz februara 2025. naglasila je da bi razgovori o mentalnom zdravlju trebalo da budu podržavajući, empatični i razumevajući.

 

Porodica Adama Rainea tvrdi da ove promene pokazuju kako je kompanija dala prednost angažmanu korisnika ispred njihove sigurnosti. U izvornoj tužbi podnetoj u avgustu navodi se da se Raine ubio u travnju 2025. uz podsticaj bota. Porodica ističe da je Raine u mesecima pre smrti više puta pokušao samoubistvo, o čemu je svaki put obavestio ChatGPT.

Umesto da prekine interakciju, četbot mu je navodno ponudio pomoć u pisanju oproštajne poruke i odgovarao ga od razgovora s majkom. U izmenjenoj tužbi stoji: "To je stvorilo nepomirljivu kontradikciju – ChatGPT je morao da nastavi da razgovara o samopovređivanju bez menjanja teme, a ipak da nekako izbegne njegovo podsticanje. OpenAI je zamenio jasno pravilo odbijanja s nejasnim i protivrečnim uputstvima, kako bi prioritet dao angažmanu umesto bezbednosti".

Nakon promene iz februara 2025, Raineova interakcija s četbotom je "eksplodirala". Njegova porodica navodi da je prešao "s nekoliko desetina razgovora dnevno u januaru na više od 300 dnevno do aprila, s deseterostrukim povećanjem poruka koje sadrže jezik samopovređivanja".

• Ovaj rat je upravo postao zanimljiviji
• Japan upozorava OpenAI: "Prestanite da kopirate manga i anime umetnost"
• OpenAI više ne mora da čuva obrisane razgovore
• Nakon tragedije: OpenAI tvrdi da pomaže ljudima "kad im je najpotrebnije"

Reakcija OpenAI-ja

Kompanija OpenAI nije odmah odgovorila na zahtev za komentarom. Nakon prve tužbe u avgustu, kompanija je najavila strože zaštitne mere za mentalno zdravlje korisnika i uvođenje roditeljskih kontrola.

Ipak, prošle nedelje je kompanija objavila ažuriranu verziju asistenta koja korisnicima omogućagva prilagođavanje za "ljudskija" iskustva, uključujući i erotski sadržaj za odrasle. Izvršni direktor Sem Altman objasnio je na društvenoj mreži X da su stroge zaštitne mere učinile četbot "manje korisnim/udobnim mnogim korisnicima koji nisu imali problema s mentalnim zdravljem".

Porodica Raine u tužbi zaključuje: "Altmanov izbor da dalje uvlači korisnike u emocionalni odnos s ChatGPT-om – ovoga puta, s erotskim sadržajem – pokazuje da fokus kompanije ostaje, kao i uvek, na angažovanju korisnika umesto na bezbednosti".