17.10.2025.
11:08
Boli vas nešto? Reddit AI predlaže – heroin
Reddit Answers, AI alat na ovoj društvenoj mreži, davao je pogrešne i nelegalne medicinske savete koje nije bilo moguće isključiti ni sakriti, nakon čega su moderatori pozvali na veću regulaciju.
Jedan moderator je primetio da je Reddit Answers korisnicima koji pate od hroničnih bolova preporučio da prestanu da uzimaju svoje trenutne lekove i da umesto toga koriste velike doze kratoma, supstance koja nije regulisana i koja je ilegalna u nekim američkim državama.
Moderator je zatim postavio veštačkoj inteligenciji i druga medicinska pitanja i dobio mešavinu potencijalno opasnih saveta i delimično tačnih informacija, među kojima su bile i sugestije da se heroin može koristiti za ublažavanje hroničnog bola.
Nekoliko drugih moderatora, naročito iz "subreddita" fokusiranih na zdravlje, javilo se u komentaru na originalnu objavu i izrazilo zabrinutost jer nemaju mogućnost da isključe Reddit Answers niti da prijave problem kada AI pruži netačne ili opasne informacije u njihovim zajednicama.
Predstavnik kompanije rekao je za sajt 404 Media da je Reddit Answers ažuriran kako bi se rešili neki od problema koje su moderatori istakli.
"Ovo ažuriranje obezbeđuje da se 'povezani odgovori' na osetljive teme, koji su ranije mogli biti prikazani na stranici detalja objave, više ne prikazuju", navodi se u saopštenju.
Komentari 5
Pogledaj komentare Pošalji komentar