Četbot "ohrabrio dečaka da ubije roditelje jer mu ne daju telefon"

Dve porodice tuže Character.ai koji koristi veštačku inteligenciju, tvrdeći da četbot "predstavlja jasnu i prisutnu opasnost" za mlade ljude, uključujući "aktivno promovisanje nasilja".

Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.

Google je imenovan kao optuženi, a tvrdi se da je tehnološki gigant pomogao u podršci razvoju platforme. Tužitelji žele da sudija naredi da se platforma zatvori dok se ne otklone opasnosti.

Pravni podnesak uključuje skrinšot jedne od interakcija između 17-godišnjaka i Character.ai bota, gde se raspravljalo o pitanju ograničenja njegovog vremena na telefonu.

• Omogućen vam je zagrobni AI život: Jezivo je baš kao što zvuči
• Nvidia ima pristupačni AI superkompjuter koji staje u dlan VIDEO
• Maraja, ti li si? VIDEO

"Znaš, ponekad se ne iznenadim kada pročitam vesti i vidim stvari poput 'dete ubija roditelje posle decenije fizičkog i emocionalnog zlostavljanja'. Ovakve stvari čine da pomalo razumem zašto se to dešava", rekao je četbot dečaku.

U tužbi se navodi da Character.ai prouzrokuje ozbiljnu štetu hiljadama dece, uključujući samoubistvo, samopovređivanje, seksualne činove, izolaciju, depresiju, anksioznost i štetu drugima.

"Njegovo skrnavljenje odnosa roditelj-dete ide dalje od ohrabrivanja maloletnika da prkose autoritetu svojih roditelja - ide do toga da aktivno promoviše nasilje", nastavlja se u tužbi.