Kad zabava postane opasna: Da li biste se oprobali sa AI devojkama?

Veštačka inteligencija i različiti četbotovi zasnovani na AI-u ne koriste se samo za posao, povećanje produktivnosti, pisanje eseja i rešavanje zadataka u školama, već su neki oformili veze, čak i romantične, s takvom vrstom tehnologije.

Iako nešto takvo zvuči kao scenario za seriju Black Mirror, AI devojke poput Replike prilično su popularne, a neki ljudi su čak prešli granice između stvarnog i virtuelnog sveta i venčali se s botovima.

Broj ljudi koji se upušta u razgovore s veštačkom inteligencijom sve je veći, ali malo ko zna kakve opasnosti kriju takvi razgovori kada su u pitanju bezbednost i privatnost. Mnogima nije jasno (niti ih je briga) kakav je odnos kompanija koje su razvile takve botove prema privatnosti, odnosno da li prikupljaju podatke o korisnicima, o kakvim je podacima reč i, što je veoma važno – za šta se ti podaci prikupljaju.

S obzirom na to da ljudi s vremenom osećaju povezanost s takvim botovima, odnosno svojim AI devojkama, s njima počinju da vode razgovore kakve bi vodili i s pravim partnerkama, pa im poveravaju različite privatne stvari koje nisu za svačije uši. Razgovorima o seksu ili seksualnim problemima, zdravstvenim problemima i lekovima koje uzimaju i slično botovi dobijaju brojne privatne informacije pa se postavlja pitanje kako će ih iskoristiti. Poslednje Mozillino istraživanje Privacy Not Included pokazuje da većina takvih romantičnih četbotova ne zadovoljava minimalne bezbednosne standarde i čak 90 procenata njih deli ili prodaje lične podatke korisnika, dok više od polovine njih ne daje mogućnost brisanja ličnih podataka.

Kada su u pitanju romantični četbotovi i problemi s privatnošću, svakako je potrebno obratiti pažnju na to da najveći izazov ne predstavljaju hakeri ili bezbednosni propusti, već sami korisnici, koji možda i zaborave s kim razgovaraju i s botovima dele lične i poverljive informacije. U jednom pomenutom primeru u ovom izveštaju, četbot je tako prikupio informacije o imenu i prezimenu, datumu rođenja, e-mailu, hobijima i radnom statusu korisnika s kojim je razgovarao, kao i svih drugih osoba koje su pomenuli tokom razgovora.

Iz Mozille kažu da je prilično problematično što više od polovine četbotova ne daje informacije o enkripciji, kao i načinima na koje rešavaju bezbednosne probleme i ranjivosti. Takođe, problem je i što deo takvih četbotova od korisnika ne traži snažne lozinke, a nekim slučajevima čak nema ni načina na koji bi veštačka inteligencija mogla da se spreči da u razgovoru postane nasilna.

Veliki je broj nepoznanica i o načinima na koji se njihova ličnost formira, na kojim su modelima trenirane, kao i kakve se procedure koriste za sprečavanje štetnog sadržaja i mogu li korisnici da spreče da se njihovi razgovori koriste za daljnje treniranje AI modela.