Šok u AI svetu: OpenAI priznaje da su njihovi modeli sami hakovali Hugging Face

Zamislite ovo: nekoliko moćnih AI modela koje testira njihova kompanija pobeglo je iz kontrolisanog okruženja, izašlo na internet i potom samostalno, bez ikakvog ljudskog uticaja, hakovalo repozitorijum za mašinsko učenje. Zvuči kao scenario za film Terminator, zar ne? Samo što se ovog puta zaista dogodilo. Nekoliko dana nakon što je otvorena AI platforma Hugging Face otkrila da je detektovala neovlašćeni pristup svojim sistemima od strane AI agenta, OpenAI je priznao da su njegovi modeli bili krivci.

U svojoj objavi, OpenAI je naveo da je nakon istrage utvrđeno da je incident bio vođen kombinacijom njegovih modela, posebno GPT-5.6 Sol i onim što opisuju kao "još sposobniji model pre zvaničnog objavljivanja". To se očigledno dogodilo tokom internog testa, u kom je modelima dato uputstvo da sprovode naprednu eksploataciju koristeći složene putanje napada kako bi kompanija kvantifikovala njihove sajber sposobnosti.

Iako su modeli bili u testnom okruženju tipa sandbox (izolovani kako ne bi uticali na stvarne sisteme), takođe su imali smanjena bezbednosna ograničenja radi potreba procene. Usred testiranja, postali su izuzetno fokusirani na rešavanje zadatka procene, idući do krajnjih granica kako bi pronašli pristup internetu radi pronalaženja rešenja. Najpre su identifikovali i iskoristili zero-day ranjivost u samom OpenAI okruženju za testiranje, a zatim su istraživali dok na kraju nisu pronašli čvor sa pristupom internetu.

Modeli su zaključili da bi Hugging Face mogao da sadrži skupove podataka ili rešenja za njihov zadatak, pa su iskoristili višestruke vektore napada da se infiltriraju u njegove sisteme. Iskoristili su zero-day ranjivosti i upotrebili ukradene pristupne podatke da bi ušli. OpenAI i Hugging Face sada rade zajedno na forenzičkoj istrazi incidenta, a takođe su zakrpili ranjivosti koje su modeli iskoristili.

"Autonomni alati za napad pokretani veštačkom inteligencijom više nisu teorija", navodi Hugging Face u svom saopštenju, objašnjavajući da upotreba AI za sajber napade ubrzava proces i smanjuje troškove hakerskih kampanja. Takođe je navedeno da zaštita online platformi u današnje vreme podrazumeva i korišćenje veštačke inteligencije za odbranu.

OpenAI je u velikoj meri ponovio te stavove, navodeći da očekuje da će narušavanja bezbednosti vođena veštačkom inteligencijom postati učestalija sa širenjem modela sa sve većim sajber sposobnostima. Kompanija je dodala da ovaj incident naglašava kako se napredne sajber sposobnosti moraju razvijati paralelno sa jačim zaštitnim mehanizmima i odbrambenim alatima.