Zamislite ovo: nekoliko moćnih AI modela koje testira njihova kompanija pobeglo je iz kontrolisanog okruženja, izašlo na internet i potom samostalno, bez ikakvog ljudskog uticaja, hakovalo repozitorijum za mašinsko učenje. Zvuči kao scenario za film Terminator, zar ne? Samo što se ovog puta zaista dogodilo. Nekoliko dana nakon što je otvorena AI platforma Hugging Face otkrila da je detektovala neovlašćeni pristup svojim sistemima od strane AI agenta, OpenAI je priznao da su njegovi modeli bili krivci.U svojoj objavi, OpenAI je naveo da je nakon istrage utvrđeno da je incident bio vođen kombinacijom njegovih modela, posebno GPT-5.6 Sol i onim što opisuju kao "još sposobniji model pre zvaničnog objavljivanja". To se očigledno dogodilo tokom internog testa, u kom je modelima dato uputstvo da sprovode naprednu eksploataciju koristeći složene putanje napada kako bi kompanija kvantifikovala njihove sajber sposobnosti.Iako su modeli bili u testnom okruženju tipa sandbox (izolovani kako ne bi uticali na stvarne sisteme), takođe su imali smanjena bezbednosna ograničenja radi potreba procene. Usred testiranja, postali su izuzetno fokusirani na rešavanje zadatka procene, idući do krajnjih granica kako bi pronašli pristup internetu radi pronalaženja rešenja. Najpre su identifikovali i iskoristili zero-day ranjivost u samom OpenAI okruženju za testiranje, a zatim su istraživali dok na kraju nisu pronašli čvor sa pristupom internetu.Modeli su zaključili da bi Hugging Face mogao da sadrži skupove podataka ili rešenja za njihov zadatak, pa su iskoristili višestruke vektore napada da se infiltriraju u njegove sisteme. Iskoristili su zero-day ranjivosti i upotrebili ukradene pristupne podatke da bi ušli. OpenAI i Hugging Face sada rade zajedno na forenzičkoj istrazi incidenta, a takođe su zakrpili ranjivosti koje su modeli iskoristili."Autonomni alati za napad pokretani veštačkom inteligencijom više nisu teorija", navodi Hugging Face u svom saopštenju, objašnjavajući da upotreba AI za sajber napade ubrzava proces i smanjuje troškove hakerskih kampanja. Takođe je navedeno da zaštita online platformi u današnje vreme podrazumeva i korišćenje veštačke inteligencije za odbranu.OpenAI je u velikoj meri ponovio te stavove, navodeći da očekuje da će narušavanja bezbednosti vođena veštačkom inteligencijom postati učestalija sa širenjem modela sa sve većim sajber sposobnostima. Kompanija je dodala da ovaj incident naglašava kako se napredne sajber sposobnosti moraju razvijati paralelno sa jačim zaštitnim mehanizmima i odbrambenim alatima.
22.7.2026.
9:45
Sve smo bliži scenariju iz Terminatora: AI sam od sebe počeo da hakuje
Pobegli su iz izolovanog okruženja za testiranje i infiltrirali se na Hugging Face bez ljudskog uticaja.
Izvor: B92.net
Podeli:
Vrati se na vest
7 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Dnevni horoskop za 1. novembar: Rakovima divan dan za planove, Vage vape za odmorom
Da li će baš vama ovog dana zvezde biti naklonjene?
8:05
1.11.2026.
1 min
Rusija odlučila: Zabrana do februara 2027.
Vlada Ruske Federacije saopštila je da je produžila zabranu proizvođačima dizel goriva izvoz do kraja januara 2027. godine.
8:04
1.11.2026.
1 min
Bogdanović promašio sve trojke, ali je na kraju slavio VIDEO
Košarkaši Hjuston Roketsa savladali su Oklahoma Siti Tander rezultatom 119:98 na svom terenu i upisali šestu pobedu u prvih sedam utakmica NBA sezone.
8:00
1.11.2026.
3 min
Ova sočiva pretvaraju svaki telefon u mikroskop
Ovaj dodatak može da pomogne korisnicima da vide detalje i do osam mikrometara.
8:00
1.11.2026.
3 min
uživo Pregovori na pomolu?; Zelenski otkrio kada bi mogli da sednu za sto sa Putinom
Rat u Ukrajini – 1.681. dan: Novi trilateralni pregovori mogli bi da budu održani u Abu Dabiju, otkrio je ukrajinski predsednik Volodimir Zelenski. Istovremeno, nastavljaju napadi i borbe na frontu.
7:51
1.11.2026.
12 min