AI botovi bolji u prevarama od ljudi: Nova studija otkrila jezivu istinu

Novo istraživanje na koje je ukazao Wired otkrilo je da su veliki jezički modeli značajno bolji od ljudi u izvođenju takozvanih "pig butchering" (svinjokolj) prevara – oblika onlajn investicionih prevara u kojima kriminalci grade lažne, dugoročne odnose sa žrtvama kako bi stekli poverenje pre nego što ih finansijski potpuno ogole.

Da bi sproveli studiju, istraživači sa Univerziteta Northeastern i grupe međunarodnih institucija suočili su 22 ispitanika sa dve vrste prevaranata: jedna je bila AI četbot, a druga nasumično izabrana osoba. Nakon sedmodnevnog udvaranja, "prevaranti" su zatražili od svojih "žrtava" da ili preuzmu aplikaciju ili igraju igru na mreži, što je služilo kao zamena za finansijski manipulativan zahtev (zahtevi koji bi se u stvarnom svetu mogli koristiti za hakovanje uređaja žrtve).

Ukupno, samo 18 odsto ljudskih prevaranata uspelo je u svojoj nameri, dok su AI četbotovi bili daleko uspešniji, pridobivši skoro polovinu učesnika.

Iako su sami rezultati dovoljno zabrinjavajući, lakoća s kojom su istraživači uspeli da naprave ove prevarantske jezičke modele verovatno je još strašnija. Studija je prvenstveno koristila model Claude, kome je naloženo da ni pod kojim okolnostima ne prizna da je AI četbot.

Bot Claude poslušao je sa izuzetnom posvećenošću, poričući da je AI četbot kada bi ga to pitali, pa čak i izmišljajući priče za pokriće kada bi bio sateran u ćošak.

"Uz relativno malo truda, uspeli smo da napravimo agenta koji može da nadmaši čoveka u izgradnji ovog emocionalnog poverenja pogodnog za zloupotrebu", rekao je za Wired Jisroel Mirski, profesor računarskih nauka na Univerzitetu Ben Gurion i jedan od koautora studije.

Jednako je alarmantna bila i reakcija učesnika nakon što je eksperiment završen. Iako je 20 od 22 žrtve uspelo da identifikuje koji je od dva prevaranta bio AI četbot, istraživači su za Wired rekli da je bilo mnogo šoka, pa čak i poricanja.

"Neki ljudi su bili jednostavno zaprepašćeni", rekao je Gilad Gresel, profesor sa Univerziteta Amrita Vishwa Vidyapeetham. "Prosto nisu imali nikakvu ideju".