Nema više "skidanja"

Kompanijama Apple i Google poslate su opomene pred tužbu u kojima se zahteva da uklone aplikacije pokretane veštačkom inteligencijom koje služe za "skidanje odeće" (nudify) sa svojih prodavnica aplikacija.

Kako prenosi Wired, gradski tužilac San Franciska, Dejvid Čiu, naredio je da dva tehnološka giganta uklone ukupno 13 aplikacija koje se mogu koristiti za kreiranje veštačkom inteligencijom generisanih dipfejkova (deepfake) sa nagim telima. Pisma pozivaju Apple i Google da prestanu da "pomažu i podstiču" širenje intimnih snimaka nastalih bez pristanka, i traže od njih da prekinu saradnju sa spornim programerima aplikacija.

Ovo nije prvi put da se Čiu uhvatio u koštac sa deepfake platformama, pošto je prethodno podneo tužbu protiv 16 veb-sajtova koji korisnicima omogućavaju da pomoću veštačke inteligencije pretvaraju slike stvarnih žena i devojčica u pornografiju. On je za Wired izjavio da su Apple i Google verovatno zaradili milione od kupovina unutar tih spornih aplikacija, kao i da je njihovim prodavnicama potrebna bolja moderacija kako bi se osiguralo da takve aplikacije uopšte ne dobiju odobrenje.

Uprkos masovnom negodovanju javnosti povodom deepfake tehnologije, ranije ove godine se, kroz izveštaj Projekta za tehnološku transparentnost (TTP), ispostavilo da su aplikacije za skidanje odeće često prolazile mimo moderatora kompanija Apple i Google. 

Izveštaj je otišao i korak dalje, tvrdeći da su neke od njih čak bile aktivno promovisane na platformama App Store i Google Play. Takođe se navodi da su mnoge od ovih aplikacija imale oznaku "E" (za sve uzraste), što je omogućavalo i deci da ih preuzmu. Kako se tvrdi u izveštaju, pronalaženje ovih aplikacija je jednostavno poput pretraživanja pojmova kao što su "nudify" ili "undress". I sve to uprkos tome što obe kompanije imaju pravila koja zabranjuju seksualni ili pornografski materijal na svojim platformama.

Google i Apple nisu jedine kompanije koje se bore sa ekspanzijom deepfake sadržaja na internetu. Nadzorni odbor kompanije Meta nedavno je pozvao firmu da pojača zaštitu običnih ljudi koji su mete ovakvih napada, budući da postojeće preventivne mere naizgled favorizuju javne ličnosti. Kompanija xAI Ilona Maska takođe je bila predmet nekoliko tužbi u vezi sa deepfake sadržajima kreiranim bez pristanka.

Portparol kompanije Google izjavio je da je kompanija obrisala "stotine" aplikacija sa funkcijama za skidanje odeće, od kojih je na pet skrenuo pažnju sam Čiu. Takođe je ponovio da njihova pravila zabranjuju seksualni sadržaj i naveo da preduzimaju "brze mere" ako se utvrdi da prijavljena aplikacija krši pravila. 

Iz kompanije Apple su poručili:

"App Store je dizajniran da bude bezbedno mesto od poverenja za korisnike, i oduvek smo strogo zabranjivali aplikacije namenjene generisanju, distribuciji ili konzumiranju pornografije. Aplikacije za 'skidanje odeće' krše naše Smernice za pregled aplikacija (App Review Guidelines) i mi smo proaktivno odbili mnoge od njih, a uklonili mnoge druge, uključujući i situacije kada su ih korisnici označili putem naših alata za prijavljivanje. Uklonili smo tri od spornih aplikacija i u procesu smo gašenja programerskih naloga njihovih autora iz našeg programa. U kontaktu smo sa još četiri autora koji moraju da reše kršenja pravila ili rizikuju da takođe budu uklonjeni".