ChatGPT korišćen za krađu Gmail podataka

Ranjivost koja je iskorišćena u međuvremenu je zatvorena od strane kopmanije OpenAI, ali predstavlja dobar primer novih rizika koji dolaze sa agentičkim veštačkim inteligencijama.

Ova krađa, nazvana "Shadow Leak" i objavljena ove nedelje od strane bezbednosne firme Radware, oslanjala se na specifičnost načina na koji AI agenti funkcionišu.

AI agenti su asistenti koji mogu da deluju u vaše ime bez stalnog nadzora, što znači da mogu da pretražuju internet i klikću na linkove. AI kompanije ih hvale kao veliku uštedu vremena nakon što im korisnici odobre pristup ličnim mejlovima, kalendarima, radnim dokumentima i slično.

Shutterstock/Primakov

Radware istraživači su iskoristili ovo kroz napad poznat kao "ubrizgavanje upita" (prompt injection), odnosno instrukcija koje efektivno nateraju agenta da radi za napadača.

Dvostruki agent u ovom slučaju bio je "OpenAI Deep Research", AI alat ugrađen u ChatGPT koji je pokrenut ranije ove godine. Radware istraživači su podmetnuli prompt injection u mejl poslat na Gmail nalog kojem je agent imao pristup.

Kada bi korisnik sledeći put pokušao da koristi Deep Research, nesvesno bi aktivirao zamku. Agent bi naišao na skrivene instrukcije, koje bi ga navele da pretraži HR mejlove i lične podatke i da ih zatim prokrijumčari do hakera. Žrtva i dalje ništa nije primećivala.

• Google hitno upozorio milijarde korisnika: Odmah ovo proverite!
• Oglasio se Google: "Potpuno netačno"
• Gmail će vas konačno obaveštavati

Izvući podatke neprimećeno nije lak zadatak i zahteva mnogo pokušaja i grešaka, ali za razliku od većine prompt injection napada, Shadow Leak se izvršavao na OpenAI klaud infrastrukturi i direktno odatle iznosio podatke. To ga čini nevidljivim za standardne sajber odbrane, naveli su istraživači.

Radware je istakao da je studija bila dokaz koncepta i upozorio da bi i druge aplikacije povezane sa Deep Researchom, uključujući Outlook, GitHub, Google Drive i Dropbox, mogle biti ranjive na slične napade.

OpenAI je u međuvremenu zatvorio ranjivost na koju je Radware ukazao još u junu, rekli su istraživači.