OpenAI tvrdi: Zlonamerna kampanja iz Kine koristila ChatGPT

Jedna od kampanja bila je usmerena na američku javnost i raspravu o centrima podataka za veštačku inteligenciju, dok je druga proizvodila sadržaj kritičan prema trgovinskoj i tehnološkoj politici Sjedinjenih Američkih Država.

Prvu grupu OpenAI je označio kao "Data Center Bandwagon". Prema navodima kompanije, njeni članovi koristili su ChatGPT za generisanje tekstova, argumenata i ilustracija na engleskom jeziku, uključujući stripove koji su naglašavali kako AI centri podataka povećavaju potrošnju električne energije i doprinose rastu računa za struju.

OpenAI tvrdi da su učesnici kampanje na društvenim mrežama nastupali kao Amerikanci različitih profila i porekla, objavljujući sadržaj kreiran uz pomoć veštačke inteligencije.

Kompanija veruje da je iza aktivnosti stajao tim za društvene mreže privatne kineske kompanije koja radi za lokalne državne klijente.

Prema izveštaju, korisnici su čak postavljali dokumente u ChatGPT sa detaljnim opisima ciljeva kampanje, strategijama za oblikovanje javnog mnjenja i uputstvima za kreiranje lažnih naloga koji bi izbegli otkrivanje.

Meta su bili i kineski disidenti

OpenAI navodi da se kampanja nije zadržala samo na američkim temama. Ista grupa je navodno koristila ChatGPT za kreiranje uvredljivih poruka usmerenih prema kineskim disidentima i političkim komentatorima koji žive van Kine.

Predstavljajući se kao kineski imigranti i stručnjaci sa sedištem u SAD, učesnici su navodno podsticali javne ličnosti da više govore o neuspesima američke politike.

Druga grupa naloga fokusirala se na generisanje komentara i ilustracija koje kritikuju američke carine, tehnološku strategiju i spoljnopolitičke poteze Vašingtona.

Prema OpenAI-u, sadržaj je često isticao tvrdnje da SAD izdaju svoje saveznike i narušavaju međunarodna partnerstva.

Posebno je zanimljivo da su korisnici tražili od ChatGPT-a da iz generisanih ilustracija izostavi kineskog predsednika Xi Jinping, dok su komentari pisani na engleskom, italijanskom, japanskom i tradicionalnom kineskom jeziku kako bi se doprelo do različitih publika, uključujući stanovnike Tajvana.

Kampanje nisu ostvarile veliki uticaj

Uprkos obimu aktivnosti, OpenAI navodi da kampanje nisu uspele da privuku značajan organski angažman niti da primetno promene javno mnjenje.

Kompanija ističe da su se autori kampanja oslanjali na teme koje su već bile predmet intenzivnih rasprava na internetu.

Jedna od njih jeste rast troškova električne energije u oblastima gde se grade veliki AI centri podataka. To je pitanje koje izaziva zabrinutost širom sveta zbog ogromnih energetskih potreba infrastrukture za veštačku inteligenciju.

OpenAI smatra da značaj ovih aktivnosti nije u njihovom uspehu, već u pokušaju da se anonimno utiče na postojeću američku debatu o budućnosti veštačke inteligencije, bez otkrivanja stvarnog identiteta i motiva organizatora.

Kompanija takođe priznaje da ne zna zašto su akteri koristili upravo ChatGPT umesto nekog kineskog AI sistema. Kako se navodi u izveštaju, OpenAI "nije u poziciji da utvrdi razloge za takav izbor".

Izveštaj predstavlja još jedan pokazatelj da se alati veštačke inteligencije sve češće nalaze u centru globalnih informacionih i političkih kampanja, zbog čega tehnološke kompanije pojačavaju nadzor nad načinima na koje se njihovi sistemi koriste.