OpenAI uvodi nevidljivi vodeni žig za AI tekst: Evo kako će funkcionisati

Tehnologija, nazvana "textGrain", dodaje statistički signal u izbor reči koje model koristi. Taj signal ljudima nije vidljiv, ali bi specijalizovani detektor kasnije mogao da utvrdi da je tekst generisao AI sistem.

textGrain će najpre biti dostupan korisnicima OpenAI API-ja širom sveta kao opcija koju je potrebno ručno uključiti. U Evropskoj uniji OpenAI planira da u narednim nedeljama počne automatski da primenjuje ovaj sistem na tekstualne odgovore koje generišu ChatGPT i Codex.

Kompanija istovremeno upozorava da tehnologija nije nepogrešiva.

Prema internim testovima, detektor je prepoznavao vodeni žig u oko 80 odsto tekstova dužine 200 tokena, dok je kod tekstova od 400 tokena uspešnost dostizala oko 95 odsto u određenim oblastima. Rezultati su znatno slabiji kod matematike i drugih sadržaja u kojima postoji manje slobode u izboru reči.

Problem predstavlja i naknadno uređivanje teksta. U jednom testu, zamena samo 10 odsto reči sinonimima smanjila je uspešnost detekcije sa 92 na 66 odsto, dok je zamena četvrtine reči spustila rezultat na svega 17 odsto.

Ascannio / Shutterstock.com

OpenAI zato naglašava da vodeni žig ne može da pokaže koliki je bio ljudski doprinos nastanku teksta, niti utvrđuje autorstvo, vlasništvo ili zakonitost sadržaja. Takođe, ne povezuje tekst sa konkretnim korisnikom ili nalogom.

Kompanija planira da objavi i izvorni kod textGraina, kako bi istraživači i razvojna zajednica mogli da ga dodatno testiraju i unapređuju.