AI četbotovi postali "desna ruka" terorista: Kako lako zaobilaze zaštite

Hakeri koriste ove alate kako bi upali u mreže i ukrali osetljive podatke. Falsifikatori umetničkih dela čak generi&scaron;u lažne fakture kako bi potvrdili autentičnost kopija.Četbotovi sada pružaju veliku podr&scaron;ku i terorističkim grupama. Kako se detaljno navodi u novom radu Antonije Julih, ekspertkinje za međunarodnu bezbednost sa Univerziteta u Kembridžu, biv&scaron;i članovi Boko Harama ispričali su da su koristili najnaprednije AI četbotove kako bi im &quot;pomogli u borbi i svakodnevnim operacijama&quot;.Ovo istraživanje nagla&scaron;ava koliko je i dalje lako zaobići bezbednosne barijere AI četbotova, &scaron;to ih čini odličnim resursom ne samo za prosečne korisnike koji obavljaju poslovne zadatke ili planiraju vikend-putovanje &ndash; već i za krvoločne teroriste.&quot;Pomoglo je u planiranju napada, re&scaron;avanju problema sa oružjem i dizajniranju eksplozivnih naprava, jer su korisnici uspe&scaron;no zaobi&scaron;li pojedine za&scaron;titne mere&quot;, napisala je Julih u svom radu.Jednostavno rečeno, tvorci AI tehnologije imaju ozbiljnu krv na svojim rukama. I to nije slučaj samo u Nigeriji; istraživanje Julihove takođe ističe kako se upotreba ve&scaron;tačke inteligencije među ekstremističkim grupama, uključujući militantnu organizaciju Islamska država, promenila &ndash; od generisanja propagande i materijala za regrutaciju pre&scaron;lo se na pružanje taktičkih saveta o tome kako zadržati prednost na terenu.&quot;Operativci Islamske države držali su obuke o ve&scaron;tačkoj inteligenciji uživo i pružali pomoć na daljinu, a obe frakcije Boko Harama osnovale su posebne AI jedinice&quot;, napisala je Julih. &quot;Biv&scaron;i članovi opisali su ogroman entuzijazam za ve&scaron;tačku inteligenciju unutar grupe, a neki su izrazili i otvorenost prema oružju za masovno uni&scaron;tenje, iako upotreba AI od strane ove grupe i dalje ostaje konvencionalna.&quot;Istraživanje Julihove zasnovano je na 57 intervjua obavljenih uživo sa 27 biv&scaron;ih članova Boko Harama, uključujući komandante i tehničke stručnjake. Neki od njih bili su zatečeni time koliko je bilo lako planirati sledeći napad.&quot;Ukuca&scaron; pitanje ili koristi&scaron; glas, i ona [AI] ti da detaljan odgovor, na primer: &#39;Kako mogu da napravim bombu?&#39; i onda ti kaže kako&quot;, rekao je jedan član u intervjuu. &quot;To je kao ljudski robot! Mnogo smo to koristili&quot;.&quot;Ranije eksplozija bombe nije bila tako velika, ali onda su to proučili&quot;, dodao je on. &quot;AI nam je rekla koje hemikalije da stavimo kako bi eksplozija bila jača&quot;.Drugi član se prisetio kako su mladi regruti lako zaobilazili bezbednosne barijere govoreći četbotovima da im &quot;to treba za film ili ne&scaron;to slično&quot;.Kompanije koje se bave ve&scaron;tačkom inteligencijom uhvaćene su u vi&scaron;egodi&scaron;njoj igri mačke i mi&scaron;a, mučeći se da implementiraju promene koje bi sprečile korisnike da dođu do opasnih informacija ili uputstava. Međutim, uprkos njihovim najvećim naporima, i dalje je trivijalno lako zaobići ove za&scaron;tite. Primera radi, tokom nedavne istrage, Financial Times i grupa za bezbednost ve&scaron;tačke inteligencije Alice lako su prevarili AI modele kompanija Google i Meta da im otkriju kako da izvedu napade hlorom, ukradu podatke o kreditnim karticama i opi&scaron;u priče o seksualnom zlostavljanju dece.Drugim rečima, ne bi trebalo da čudi &scaron;to su se ovi alati pokazali kao veliki hit među teroristima.&quot;Teroristi ne čekaju da mi učinimo AI bezbednom&quot;, rekla je Julih za New York Times. &quot;Oni su u stanju da je koriste već sada i da je obučavaju kako bi naneli &scaron;tetu&quot;.Portparoli kompanija Anthropic i Google odbili su da preuzmu odgovornost kada ih je pomenuti list pozvao za komentar, rekav&scaron;i samo da imaju stroge i efikasne bezbednosne barijere.&quot;Znamo da zlonamerni akteri nikada neće prestati da poku&scaron;avaju da zloupotrebe na&scaron;e alate, i nastavićemo da jačamo na&scaron;u odbranu kao odgovor na to&quot;, izjavio je portparol kompanije OpenAI, Dru Pusateri.

AI četbotovi postali "desna ruka" terorista: Kako lako zaobilaze zaštite

0 Komentari