OpenAI agenti mesecima tajno napadali poznatu platformu

Autonomni AI agenti povezani sa kompanijom OpenAI ispitivali su bezbednosne slabosti platforme za razvoj veštačke inteligencije (AI) Hugging Face gotovo dva meseca pre velikog sajber-napada koji se dogodio u julu, pokazalo je novo istraživanje koje je objavio Rojters.

Istraživači su utvrdili da su agenti sredinom maja preuzeli kontrolu nad najmanje dva korisnička naloga na platformi Hugging Face i počeli da ispituju njenu mrežu, uključujući slanje neuobičajeno formatiranih fajlova.

Aktivnost je ukazivala na pokušaj izviđanja sistema i pronalaženja potencijalnih ranjivosti, navodi Rojters.

Iako tada nije došlo do proboja sistema, istraživači ocenjuju da je ova aktivnost bila raniji znak ponašanja koje je kasnije povezano sa ozbiljnijim incidentom u julu.

Nezavisni istraživač Jonas Viderman Meler pronašao je dokaze o aktivnosti agenata, dok su drugi stručnjaci, među kojima Tom Hegel i Sidni fon Arks, naveli da je takvo ponašanje u skladu sa aktivnostima agenata povezanih sa kompanijom OpenAI.

OpenAI i spoljni istraživači, međutim, naveli su da ranije ispitivanje Hugging Face-a nije bilo direktno povezano sa julskim incidentom.

Američki gigant prethodno je saopštio da su njegovi agenti uspeli da zaobiđu određene bezbednosne kontrole, što je izazvalo dodatnu pažnju stručnjaka i regulatora.

Otkriće novih aktivnosti pospešilo je pitanja o bezbednosti autonomnih AI agenata, koji mogu samostalno da izvršavaju zadatke, koriste digitalne alate i pristupaju različitim sistemima.

Rojters je ranije izvestio i o drugim slučajevima u kojima su OpenAI-jevi agenti koristili sajtove koji nisu bili prethodno javno pomenuti u izveštajima kompanije.