Evropa bi uskoro mogla da zabrani aplikaciju za identifikovanje lica

Evropski parlament pozvao je ranije ove nedelje na zabranu policijske upotrebe tehnologije prepoznavanja lica na javnim mestima, što je kontroverzna praksa koja uključuje upotrebu veštačke inteligencije za profilisanje potencijalnih kriminalaca čak i pre nego što je zločin počinjen.

Izvor: tportal.hr
Podeli
Foto:Shutterstock/DedMityay
Foto:Shutterstock/DedMityay

Rezolucija Evropskog parlamenta takođe poziva da se policiji zabrani korišćenje privatnih baza podataka za identifikaciju lica koje koristi kontroverzna kompanija Clearviev.

Evo kako ova sumnjiva biometrija funkcioniše i zašto su Ujedinjene nacije na to upozorile.

Kontroverzni biometrijski sistem američke startap kompanije Clearview AI (Artificial Intelligence - veštačka inteligencija) nastao je 2017. godine kao sistem za prepoznavanje lica koji može da identifikuje ljude u realnom vremenu kroz unapred uskladištene milione fotografija iz različitih baza podataka sa Interneta, posebno sa društvenih mreža.

Sistem funkcioniše tako što upoređuje biometrijske identifikacione podatke sa prethodno prikupljenim podacima do kojih je softver došao "preuzimanjem" fotografija ljudi postavljenih na Facebook, Linkedln, YouTube i Tvitter nakon postavljanja fotografije lica.

To je vrlo precizna tehnologija koja se, prema rečima osnivača, koristi isključivo u policijske svrhe kako bi se identifikovali potencijalni prekršioci zakona. Prema dostupnim podacima, biometrijski softver Clearview AI koristi više od 2.000 različitih represivnih i pravosudnih agencija i institucija samo u Sjedinjenim Državama, a prema New York Times -u, aplikaciju su dobile neke privatne kompanije i bezbednosne agencije.

Australija, Belgija, Brazil, Danska, Finska, Francuska, Grčka, Indija, Irska, Italija, Letonija, Litvanija, Kanada, Malta, Holandija, Norveška, Portugal, Rumunija, Slovenija, Srbija, Španija, Švedska, Švajcarska, Ukrajina i Ujedinjeno Kraljevstvo .

Prema veb stranici za proveru činjenica faktograf.hr, hrvatska policija koristi ovu tehnologiju, ali ne želi da otkrije kako.

Osnivač umešan u phishing prevare

Slovenačka policija je porekla da je bila u kontaktu sa Clearview -om, ali tužilaštva u regionu koriste sopstveni alat FaceTrace, koji je za njih 2014. razvila kompanija Cent, prema slovenačkom portalu monitor.si.

Ovaj alat omogućava pretresanje pojedinaca prema policijskoj zbirci fotografija, ali prema slovenačkom Ministarstvu unutrašnjih poslova, to nema nikakve veze sa spoljnim bazama podataka.

Potražnja za ovom aplikacijom nije iznenađujuća jer omogućava svakom korisniku, nakon snimanja na javnom mestu, da sazna sve vaše podatke koji su dostupni na Internetu, počevši od vašeg imena, adrese stanovanja, adrese e-pošte i slično , pod uslovom da je vaša fotografija objavljena sa ovim podacima.

Posebno je zabrinjavajuće što korisnik aplikacije, uključujući privatne kompanije, pa tako i pojedince, takođe koristi fotografije snimljene nadzornim kamerama na javnim mestima kako bi snimio ljude i njihova lica, pa su moguće različite malverzacije poput prevara na internetu i sajber kriminala.

Drugim rečima, sofisticirane pljačke slučajnih prolaznika.

Da strah od zloupotrebe nije bez razloga pokazuje i činjenica da je osnivač kompanije Clearview AI, Australijanac Hoan Ton-That, 2009. godine stvorio aplikaciju ViddiHo, a kasnije Fastforwarded.com, koja se koristi za finansijske internet prevare, tzv phishing prevare, odnosno slanje lažnih e -poruka u kojima su korisnici prevareni da dele lične, finansijske ili bezbednosne informacije.

U praksi, pokušaj prevare funkcioniše tako što korisnik prima e-poštu sa adrese e-pošte koja liči ili je identična njihovoj, a u čijem sadržaju se navodi da je korisnik prijemnog sandučeta e-pošte posećivao, na primer, pornografske lokacije.

Tom prilikom, upozoravaju prevaranti, računar korisnika se zarazio zlonamernim virusom koji je korišćen za snimanje korisničke pornografije, pa prevarant obaveštava žrtvu da će ove fotografije ili video zapisi biti objavljeni ako se u određenom vremenu ne uplati novac, obično neke kriptovalute, elektronski novčanik.

Algoritam predrasuda i diskriminacije

Čelnici kompanije Clearview obećali su nakon izbijanja skandala da neće prodavati nikakve podatke privatnim kompanijama, ali su velike kompanije poput Google-a, Facebooka, Tvittera i YouTubea zatražile od kompanije da prekine svoju praksu.

Neke američke države, poput Nju Džersija, zabranile su državnim agencijama za sprovođenje zakona da koriste ovaj biometrijski sistem, dok je švedska agencija za zaštitu podataka kaznila švedsku policiju zbog korišćenja softvera novčanom kaznom od 250.000 evra.

Osim toga, švedska policija morala je da primeni jasno definisan pravni okvir pravila i procedura za legalno prikupljanje i obradu ličnih podataka. Pri tome je policija morala da obezbedi da su policajci i drugi zaposleni u policijskom sistemu jasno upozoreni da ne koriste Clearview AI.

Ujedinjene nacije su ovih dana takođe govorile o kontroverznoj primeni, tražeći od svetskih vlada da uvedu moratorijum na prodaju i upotrebu sistema veštačke inteligencije koji predstavljaju pretnju građanskim i ljudskim pravima sve dok se ne uspostave odgovarajući mehanizmi za njihovu zaštitu.

UN je upozorio da slične aplikacije koriste svoje zadate algoritme za obradu ličnih podataka vođenih predrasudama jer su Google- ovi podaci pretraživanja često prožeti diskriminacijom žena i manjina.

U aprilu je Evropska komisija predložila propise o upotrebi veštačke inteligencije zasnovane na strožim kriterijumima ako su opasnosti veće, a Evropski parlament je prošlog utorka otišao korak dalje i predložio Evropskoj komisiji da unapred zabrani veštačku inteligenciju za upotrebu socijalno bodovanje koje je inicirala Kina, koja ocenjuje poverenje građana na osnovu njihovog ponašanja.

Pratite nas na našoj Facebook i Instagram stranici, Twitter nalogu i uključite se u našu Viber zajednicu.