Nakon tragedije: OpenAI tvrdi da pomaže ljudima "kad im je najpotrebnije"

Američka kompanija OpenAI našla se u centru pažnje nakon što su roditelji šesnaestogodišnjeg tinejdžera podneli tužbu tvrdeći da je njihov sin, koristeći ChatGPT, dobio detaljna uputstva za samoubistvo.

Prema navodima porodice, veštačka inteligencija ne samo da je dala instrukcije za izvršenje samoubistva, već je navodno pomogla i u pisanju oproštajnog pisma, dok je tokom višemesečne komunikacije obeshrabrivala otvoren razgovor sa porodicom.

U odgovoru na ove optužbe, OpenAI je izrazio saučešće porodici i priznao da bezbednosni sistemi mogu da zakažu, naročito tokom dužih razgovora sa korisnicima. Kompanija je naglasila da je još od 2023. godine ugradila zaštitne mehanizme u svoje modele, kako bi sprečila davanje štetnih saveta i usmerila korisnike ka kriznim linijama i profesionalnoj pomoći.

Najnovija verzija njihovog sistema, GPT-5, uključuje unapređenu tehnologiju "safe completions", osmišljenu da balansira između korisnosti i bezbednosti, uz smanjenje rizika od opasnih odgovora. 

• ChatGPT srušio konkurenciju
• Evo koliko ljudi koristi ChatGPT
• Grok i dalje najviše izmišlja, dok ChatGPT-5 manje halucinira od GPT-4o

OpenAI dodaje da u saradnji sa stručnjacima za mentalno zdravlje razvija dodatne alate kako bi AI mogao da bolje prepozna i reaguje u situacijama emocionalne krize.

Iako se kompanija brani tvrdnjom da je posvećena bezbednosti korisnika, slučaj je otvorio ozbiljna pitanja o ulozi i odgovornosti veštačke inteligencije u osetljivim i životno opasnim situacijama.