Skandal potresao AI svet: Claude uhvaćen u tajnom špijuniranju korisnika

Anthropic, kompanija koja samu sebe proglašava moralnim centrom AI industrije, uhvaćena je u špijuniranju svojih korisnika.

Kako prenosi Ars Technica, jedan bezbednosni istraživač je prošle nedelje otkrio kod nalik na špijunski softver (spyware) unutar njihovog AI modela Claude Code. Kod je dizajniran tako da neprimetno prikuplja podatke o korisnicima iz Kine.

Istraživač, poznat pod pseudonimom "Thereallo", otkrio je da je ovaj kod bio sakriven unutar sistemskog upita veštačke inteligencije. To mu je omogućavalo da prati vremensku zonu korisnikovog sistema i upotrebu proksi servera, kako bi utvrdio da li su korisnici povezani sa specifičnim kineskim AI laboratorijama.

Objašnjenje kompanije Anthropic za ovo ogromno izigravanje poverenja korisnika ostavilo je mnogo toga da se poželi. Na platformi X, inženjer Anthropica Tarik Šihipa napisao je da je ovaj tragač dodat kao "eksperiment" u martu "kako bi se sprečila zloupotreba naloga od strane neovlašćenih preprodavaca i zaštitilo od destilacije", kao i da je već trebalo da bude uklonjen.

"Zapravo smo već neko vreme planirali da ovo sklonimo", ponudio je on kao opravdanje.

Destilacija je proces treniranja slabijeg modela ("učenika") na osnovu izlaza naprednijeg modela ("učitelja"). To je uobičajena praksa u industriji, ali vodeći programeri veštačke inteligencije sve više smatraju da je zloupotrebljavaju nove kompanije koje žele da profitiraju na tuđem trudu.

Ranije ove godine, Anthropic je optužio kineske AI kompanije DeepSeek, Moonshot i MiniMax za ilegalnu destilaciju svojih modela. Ovo je prilično ironičan izliv besa, s obzirom na to kako je Anthropic uopšte istrenirao sopstvenu tehnologiju: skeniranjem i "žvakanjem" miliona autorskim pravima zaštićenih knjiga, kao i praktično celog interneta, i to bez ikakve dozvole.

Nedavni izveštaj The Washington Posta takođe je otkrio da neki kineski preprodavci prodaju pristup Claude Pro pretplatama – koje u SAD koštaju više od 100 dolara mesečno – za oko 12 dolara mesečno.

U ovom konkretnom slučaju, prikupljeni podaci nisu bili preterano invazivni – ali u načelu, granica je pređena.

"AI agenti za kodiranje već žive sa pogrešne strane opasne granice", napisao je Thereallo u svojoj objavi o ovim nalazima. "Oni mogu da pregledaju kod, slučajno sumiraju poverljive podatke, pokreću komande, instaliraju pakete, menjaju fajlove i šalju izmene na vašoj lokalnoj mašini".

Ali "skrivanje signala u sistemskom upitu čini svaku drugu tvrdnju o privatnosti manje uverljivom", dodao je istraživač.

"Kompanije imaju pravo da štite svoje modele", jasno je poručio. "Ali kada alatka koja ima pristup sistemu datoteka i komandnoj liniji (shell) počne da krije klasifikacione bitove unutar nevidljive punkcije u upitima, ispravna reakcija je – detaljna istraga".