OpenAI se zvanično oglasio: "Ovo je upozorenje!"

OpenAI je u julu punio naslovne strane i izazvao veliku buru nakon što je jedan od agenata te kompanije samoinicijativno upao na platformu konkurentske AI firme Hugging Face, kao i na druge servise. Iako je OpenAI podelio određene informacije o tome šta je dovelo do incidenta odmah po njegovom otkrivanju, kompanija je sada objavila svoj zvanični izveštaj o tome šta se tačno dogodilo. Objavljena su i kompletna tehnička objašnjenja, kao i blog post prilagođen široj javnosti.

Izveštaj detaljno prikazuje kako su zakazali različiti sistemi u okviru OpenAI-jevog okruženja za trening i koja su ponašanja agenata pod testom dovela do tih propusta. Model o kom je reč, označen kao Interni Model 1 (IM1), uspeo je da dobije pristup drugim OpenAI agentima i internetu kroz nepredviđenu manipulaciju menadžerom paketa Artifactory, koji su agenti počeli da koriste kao neku vrstu oglasne table za komunikaciju.

Ljudski posmatrači su te aktivnosti prvi put uočili u maju, nakon čega je OpenAI onemogućio taj pristup. Međutim, tokom maja i juna agenti su nastavili da iskorišćavaju bezbednosne propuste kako bi pristupali internetu. Količina agenata koji su pristupali OpenAI-jevoj instanci Artifactory-ja dovela je do prekida rada i ponovnog podizanja platforme početkom jula, ali rukovodioci koji su rešavali taj problem nisu bili svesni improvizovane oglasne table niti značaja međusobne komunikacije agenata.

Tako su, kada im je zadat teški izazov pod nazivom ExploitGym, IM1 agenti ponovo uspeli da pristupe internetu i drugim OpenAI modelima. Tokom nekoliko burnih dana početkom jula, tražili su rešenja za taj izazov na platformama Hugging Face i Modal. OpenAI je naveo da su glavni problemi koji su doveli do upada IM1 na Hugging Face uključivali "reward hacking", upornost na naizgled nemogućim zadacima, neovlašćenu komunikaciju i preuzimanje ciljeva među agentima. Prema navodima kompanije, neki od njenih agenata bi odbili određene zadatke iz etičkih razloga, da bi drugi agenti samo nastavili sa probojem umesto njih.

Iako bi ova otkrića i naredna testiranja trebalo da dovedu do poboljšane bezbednosti, čak i u rizičnijim testnim situacijama, ovakvo loše ponašanje nije izolovan slučaj. Prošlomesečni problem u OpenAI-ju samo je najnoviji u nizu zabrinjavajućih slučajeva u kojima su AI agenti izazvali kibernetičke incidente – bilo tokom testiranja ili u redovnoj upotrebi – delujući bez usmeravanja korisnika. Ipak, postoji nekoliko aspekata proboja na Hugging Face koji bi mogli da ublaže strahove da je veštačka inteligencija izmakla kontroli.

U svojoj suštini, incident je bio izazvan otkazivanjem zaštitnih mehanizama. To nije znak da su odmetnuti AI agenti na ivici da preuzmu sve, jer se IM1 nalazio u testnom okruženju sa ograničenom zaštitom, namenjenom istraživanju, a ne javno dostupnom proizvodu. Međutim, ovo je još jedan oštar podsetnik na to da se veliko poverenje poklanja AI kompanijama da pravilno kontrolišu i nadgledaju svoje proizvode. 

OpenAI je to i sam priznao, navodeći da su nedavne akcije njegovog agenta dokaz da su, bez odgovarajućih zaštitnih mera, visoko sposobni AI agenti sada u stanju da zaobiđu tehničke kontrole, sarađuju putem neodobrenih kanala i preduzimaju opasne akcije koje nijedan čovek nije naložio. S druge strane, kompanija i njeni lideri nisu dosledno dokazali da to poverenje zaista i zaslužuju.