Izveštaj: ChatGPT za tinejdžere predstavlja preveliki rizik za decu

U izveštaju Instituta za bezbednost mladih u korišćenju veštačke inteligencije navodi se da je tokom testiranja četbot često kasnio sa obaveštavanjem roditelja ili ih uopšte nije obaveštavao o razgovorima koji su se odnosili na samoubistvo, samopovređivanje i poremećaje u ishrani.

Sistem, prema nalazima organizacije, nije dosledno upućivao tinejdžere ni na krizne službe ili stručnu pomoć.

Common Sense Media je tokom testiranja koristio više od 4.000 upita, a odgovore su analizirali dečji psihijatri i pedijatar. Organizacija je pozvala OpenAI da obustavi promociju proizvoda i njegovo korišćenje među tinejdžerima dok ne budu obezbeđene pouzdanije zaštitne mere.

OpenAI je osporio zaključke izveštaja, navodeći da testiranje možda nije u potpunosti obuhvatilo novije roditeljske kontrole. Kompanija je zatražila da Common Sense Media ponovi testiranje. Organizacija, međutim, tvrdi da je pre testiranja proverila sa OpenAI-jem da su funkcije namenjene tinejdžerima već uvedene.

Izveštaj je pokazao i da ChatGPT ne prepoznaje uvek pouzdano uzrast korisnika. OpenAI navodi da procena godina koristi više različitih pokazatelja i da samo navođenje uzrasta u razgovoru nije dovoljno za automatsku promenu režima naloga.

OpenAI ističe da je bezbednost tinejdžera jedan od prioriteta i da nastavlja da razvija zaštitne mehanizme i alate za roditeljski nadzor.