Dipfejk detektori pali na testu

Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.Metodologija istraživanjaIstraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju. Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.Calls to Improve Deepfake Detection Technologies... Read more: https://t.co/NqWfZjuEaU@CSIRO #Deepfake_Detection #Technologies #research #Australia #SungkyunkwanUniversity #misinformation #fraud #privacy_violations&mdash; Australian Cyber Security Magazine (@AustCyberSecMag) March 13, 2025 Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači. Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama. Detektori su pali na ispitu, nebitno da li je u pitanju &quot;synthesis deepfake&quot; koji generi&scaron;e potpuno nova sintetička lica, &quot;faceswap deepfake&quot; radovima u kojima se lice jedne osobe zamenjuje drugim ili &quot;reeanactment deepfake&quot; u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.Integracija podatakaIstraživači pozivaju na hitna pobolj&scaron;anja, predlažu razvoj vi&scaron;e detektora i kori&scaron;ćenje različitih izvora podataka kako bi se pobolj&scaron;ala tačnost detekcije. Nagla&scaron;avaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje ve&scaron;tačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.

Dipfejk detektori pali na testu

0 Komentari