Aktuelno 3

27.09.2025.

15:16

ChatGPT korišćen za krađu Gmail podataka

Istraživači bezbednosti iskoristili su ChatGPT kao saučesnika da bi izvukli osetljive podatke iz Gmail inboksa, a da korisnici to ne primete.

Izvor: B92

ChatGPT korišćen za krađu Gmail podataka
mundissima / Shutterstock.com

Podeli:

Ranjivost koja je iskorišćena u međuvremenu je zatvorena od strane kopmanije OpenAI, ali predstavlja dobar primer novih rizika koji dolaze sa agentičkim veštačkim inteligencijama.

Ova krađa, nazvana "Shadow Leak" i objavljena ove nedelje od strane bezbednosne firme Radware, oslanjala se na specifičnost načina na koji AI agenti funkcionišu.

AI agenti su asistenti koji mogu da deluju u vaše ime bez stalnog nadzora, što znači da mogu da pretražuju internet i klikću na linkove. AI kompanije ih hvale kao veliku uštedu vremena nakon što im korisnici odobre pristup ličnim mejlovima, kalendarima, radnim dokumentima i slično.

ChatGPT korišćen za krađu Gmail podataka
Shutterstock/Primakov

Radware istraživači su iskoristili ovo kroz napad poznat kao "ubrizgavanje upita" (prompt injection), odnosno instrukcija koje efektivno nateraju agenta da radi za napadača.

Dvostruki agent u ovom slučaju bio je "OpenAI Deep Research", AI alat ugrađen u ChatGPT koji je pokrenut ranije ove godine. Radware istraživači su podmetnuli prompt injection u mejl poslat na Gmail nalog kojem je agent imao pristup.

Kada bi korisnik sledeći put pokušao da koristi Deep Research, nesvesno bi aktivirao zamku. Agent bi naišao na skrivene instrukcije, koje bi ga navele da pretraži HR mejlove i lične podatke i da ih zatim prokrijumčari do hakera. Žrtva i dalje ništa nije primećivala.

Izvući podatke neprimećeno nije lak zadatak i zahteva mnogo pokušaja i grešaka, ali za razliku od većine prompt injection napada, Shadow Leak se izvršavao na OpenAI klaud infrastrukturi i direktno odatle iznosio podatke. To ga čini nevidljivim za standardne sajber odbrane, naveli su istraživači.

Radware je istakao da je studija bila dokaz koncepta i upozorio da bi i druge aplikacije povezane sa Deep Researchom, uključujući Outlook, GitHub, Google Drive i Dropbox, mogle biti ranjive na slične napade.

OpenAI je u međuvremenu zatvorio ranjivost na koju je Radware ukazao još u junu, rekli su istraživači.

Podeli:

3 Komentari

Možda vas zanima

Svet

Rusi se povlače; Posle 18 meseci pao dogovor

Sirija je danas saopštila da je postigla dogovor sa Rusijom o statusu dve ruske baze u toj zemlji koje su nekada korišćene za pružanje vojne podrške svrgnutom sirijskom lideru Bašaru al Asadu tokom sirijskog građanskog rata.

23:44

9.8.2026.

23 h

Svet

"Moskva će pasti"

Komandant Snaga bespilotnih sistema ukrajinske vojske Robert "Mađar" Brovdi naveo na Telegramu je pet uslova pod kojima bi, prema njegovom mišljenju, mogao da se završi rat Rusije protiv Ukrajine.

23:05

9.8.2026.

23 h

Podeli: