Objavljuju rat AI aplikacijama koje "razgolićuju" poznate

Meta je konačno počela da se obračunava sa "nudify" aplikacijama, koje koriste veštačku inteligenciju za generisanje neovlašćenih golih i eksplicitnih slika poznatih ličnosti, influensera i drugih osoba. 

Kompanija je podnela tužbu protiv jednog proizvođača takvih aplikacija koji je često reklamirao ove usluge na Facebooku i Instagramu, i preduzima nove korake kako bi sprečila oglašavanje sličnih servisa.

Ovaj potez dolazi nekoliko meseci nakon što su istraživači i novinari ukazali na problem sa ovim aplikacijama. Nedavno istraživanje CBS Newsa otkrilo je najmanje "nekoliko stotina" oglasa na Metinim platformama koji promovišu aplikacije koje omogućavaju korisnicima da "uklone odeću" sa slika poznatih ličnosti i drugih osoba. Jedna takva aplikacija, nazvana Crush AI, bila je posebno aktivna u oglašavanju na Facebooku i Instagramu. Istraživač Aleksios Manzarlis, direktor Inicijative za bezbednost, poverenje i sigurnost na Cornell Tech-u, izvestio je još u januaru da je Crush AI plasirala više od 8.000 oglasa na ovim platformama od prošle jeseni.

Sada Meta navodi da je podnela tužbu protiv kompanije Joy Timeline HK Limited, firme sa sedištem u Hongkongu koja stoji iza Crush AI i drugih sličnih aplikacija. "Ovo je usledilo nakon višestrukih pokušaja kompanije Joy Timeline HK Limited da zaobiđe Metin proces pregleda oglasa i nastavi sa plasiranjem ovih oglasa, iako su oni više puta uklanjani zbog kršenja naših pravila", navela je kompanija na svom blogu. 

• Ludilo za šefom Nvidije: Žene traže autogram na grudnjaku, muškarci stoje u redovima
• Mark Zakerberg želi "superinteligentnu" veštačku inteligenciju
• Za nju verovatno niste čuli: Najmlađa svetska milijarderka stiže iz AI sveta

Meta takođe navodi da preduzima nove korake kako bi sprečila oglašavanje ovakvih aplikacija na svojoj platformi. "Razvili smo novu tehnologiju koja je posebno dizajnirana da identifikuje ovu vrstu oglasa – čak i kada sami oglasi ne sadrže golotinju – i koristimo tehnologiju za prepoznavanje kako bismo brže pronašli i uklonili kopije tih oglasa", navela je Meta. "Saradnjom sa spoljnim stručnjacima i našim specijalizovanim timovima, proširili smo listu termina, fraza i emodžija povezanih sa bezbednošću, koje naši sistemi uče da prepoznaju u ovim oglasima". Kompanija navodi da takođe planira saradnju sa drugim tehnološkim platformama, uključujući vlasnike prodavnica aplikacija, kako bi delila relevantne informacije o entitetima koji zloupotrebljavaju njenu platformu.

Aplikacije koje druge prikazuju bez odeće nisu jedine koje su zloupotrebile Metinu oglasnu platformu koristeći deepfake sadržaj sa poznatim ličnostima. Meta se takođe bori sa sumnjivim oglašivačima koji koriste AI-video manipulacije poznatih osoba za promociju prevara. Nezavisni Nadzorni odbor kompanije, koji se bavi pitanjima moderacije sadržaja na Facebooku i Instagramu, nedavno je kritikovao Metu zbog slabog sprovođenja pravila koja zabranjuju ovakve oglase.