Kako izveštava sajt Wired, crv može da napada AI pokretane asistente elektronske pošte kako bi prigrabio osetljive podatke iz mejlova i isporuči spam poruke koje inficiraju druge sisteme.
"To u osnovi znači da sada imate mogućnost da sprovodite ili izvodite novu vrstu sajber napada koji do sada nisu viđeni", kaže Ben Nasi – istraživač kompanije Cornell Tech, koautor rada koji obrađuje ovu temu.
Iako istraživači sajber bezbednosti još nisu uočili AI pokretane crve u realnom svetu, oni u pozoravaju da je samo pitanje vremena kada će se to dogoditi.
U svom eksperimentu, koji se odvijao u kontrolisanom okruženju, istraživači su ciljali asistente e-pošte koje pokreće OpenAI GPT-4, Google Gemini Pro i veliki jezički model otvorenog koda nazvan LLaVA.
Tim je čak uspeo da ugradi maliciozni upit u sliku, pokrećući AI da zarazi druge klijente elektronkse pošte.
Istraživački tim je svoje nalaze preneo OpenAI-u i Google-u, a portparol OpenAI-a je rekao da kompanija radi na tome da svoje sisteme učini "otpornijim".
Ovo je arhivirana verzija originalne stranice. Izvinjavamo se ukoliko, usled tehničkih ograničenja,
stranica i njen sadržaj ne odgovaraju originalnoj verziji.
Komentari 6
Pogledaj komentare