Google otkrio prvi hakerski napad koji je kreirao AI: "Ovo je samo vrh ledenog brega!"

Sajber kriminal sada možemo da dodamo na listu sve većih razloga za zabrinutost u vezi sa veštačkom inteligencijom. 

Google-ova grupa za obaveštajne podatke o pretnjama (GTIG) saopštila je da je po prvi put otkrila napadača koji koristi "zero-day" eksploit za koji veruje da je razvijen pomoću AI. "Zero-day" ranjivosti su često najopasnije jer su nepoznate metama, što im ostavlja nula dana (zero days) da se pripreme za napad.

Google je u izveštaju naveo da je napadač planirao da ga upotrebi u "događaju masovne eksploatacije", ali da je njihovo proaktivno otkriće "verovatno sprečilo njegovu upotrebu". Iz kompanije dodaju da ne veruju da su korišćeni njihovi sopstveni Gemini modeli, ali i dalje su uvereni da je neki AI model učestvovao u pronalaženju ranjivosti i pretvaranju tog propusta u napadačko oružje.

S obzirom na to koliko su se brzo AI modeli razvili za svakodnevnu upotrebu, nije iznenađujuće što se koriste i u zlonamerne svrhe. U intervjuu za The New York Times, Džon Hakvist, glavni analitičar u GTIG-u, okarakterisao je ovo kao "nagoveštaj onoga što dolazi" i "vrh ledenog brega", dodajući da je ovaj slučaj samo prvi "opipljiv dokaz" ovakvih napada. 

Google je u svom izveštaju naveo da napadači koriste AI u različitim fazama sajber napada, ali i da "AI može biti moćan alat za odbranu". Poput Google-a, i druge kompanije koriste AI modele za preventivne mere. Prošlog meseca, Anthropic je najavio Project Glasswing, inicijativu čiji je zadatak korišćenje modela Claude Mythos Preview za pronalaženje i odbranu od "ranjivosti visokog stepena kritičnosti".