Opasno: ChatGPT zna gde živite – treba mu samo slika

Na prvi pogled, sve liči na igru - korisnici ubacuju fotografije menija iz restorana, selfije ili snimke sa ulice, a ChatGPT pokušava da pogodi gde je slika nastala. Neki čak "pretvaraju" ChatGPT u GeoGuessr igrača, poznatu online igru u kojoj treba pogoditi lokaciju na osnovu Google Street View prikaza.

Možda ovo zvuči bezazleno, ali postoji i ozbiljna "mračna strana" cele priče.

OpenAI je nedavno objavio nove o3 i o4-mini modele, koji imaju mogućnost naprednog "vizuelnog rezonovanja". To znači da AI može da zumira, rotira, seče i analizira i mutne slike kako bi izvukao korisne informacije. Kada se to spoji sa ostalim veštinama modela - rezultat je neverovatna sposobnost prepoznavanja lokacija, prenosi Tech Spot.

U prevodu: dovoljna je obična slika sa Instagrama, i AI može da pogodi u kom ste gradu, kvartu, pa čak i konkretnu adresu. To otvara vrata ozbiljnom riziku od "doxxovanja", tj. otkrivanja tuđe lokacije ili identiteta bez dozvole.

U jednom testiranju, model o3 je čak uspeo da pogodi da je slika ljubičaste glave nosoroga u baru zapravo iz jednog lokala u njujorškom Vilijamsburgu, dok je GPT-4o greškom mislio da je iz britanskog paba. Ipak, iako je o3 u nekim slučajevima precizniji, nije nepogrešiv - ume da "zaglavi" u pokušaju određivanja lokacije.

Iz OpenAI-a kažu da ovakve mogućnosti mogu pomoći u raznim oblastima, od pristupačnosti i naučnih istraživanja do hitnih intervencija. Takođe tvrde da modeli odbijaju zahteve za privatne ili osetljive informacije i da su uvedeni zaštitni mehanizmi protiv identifikovanja privatnih osoba na slikama.

Međutim, mogućnost da AI na osnovu sitnih detalja (znakova, enterijera, pejzaža) pogodi lokaciju sa fotografije i dalje ostaje potencijalno opasna, pogotovo u rukama onih koji žele nekome da naškode.