OpenAI je u julu punio naslovne strane i izazvao veliku buru nakon što je jedan od agenata te kompanije samoinicijativno upao na platformu konkurentske AI firme Hugging Face, kao i na druge servise. Iako je OpenAI podelio određene informacije o tome šta je dovelo do incidenta odmah po njegovom otkrivanju, kompanija je sada objavila svoj zvanični izveštaj o tome šta se tačno dogodilo. Objavljena su i kompletna tehnička objašnjenja, kao i blog post prilagođen široj javnosti.Izveštaj detaljno prikazuje kako su zakazali različiti sistemi u okviru OpenAI-jevog okruženja za trening i koja su ponašanja agenata pod testom dovela do tih propusta. Model o kom je reč, označen kao Interni Model 1 (IM1), uspeo je da dobije pristup drugim OpenAI agentima i internetu kroz nepredviđenu manipulaciju menadžerom paketa Artifactory, koji su agenti počeli da koriste kao neku vrstu oglasne table za komunikaciju.Ljudski posmatrači su te aktivnosti prvi put uočili u maju, nakon čega je OpenAI onemogućio taj pristup. Međutim, tokom maja i juna agenti su nastavili da iskorišćavaju bezbednosne propuste kako bi pristupali internetu. Količina agenata koji su pristupali OpenAI-jevoj instanci Artifactory-ja dovela je do prekida rada i ponovnog podizanja platforme početkom jula, ali rukovodioci koji su rešavali taj problem nisu bili svesni improvizovane oglasne table niti značaja međusobne komunikacije agenata.Tako su, kada im je zadat teški izazov pod nazivom ExploitGym, IM1 agenti ponovo uspeli da pristupe internetu i drugim OpenAI modelima. Tokom nekoliko burnih dana početkom jula, tražili su rešenja za taj izazov na platformama Hugging Face i Modal. OpenAI je naveo da su glavni problemi koji su doveli do upada IM1 na Hugging Face uključivali "reward hacking", upornost na naizgled nemogućim zadacima, neovlašćenu komunikaciju i preuzimanje ciljeva među agentima. Prema navodima kompanije, neki od njenih agenata bi odbili određene zadatke iz etičkih razloga, da bi drugi agenti samo nastavili sa probojem umesto njih.Iako bi ova otkrića i naredna testiranja trebalo da dovedu do poboljšane bezbednosti, čak i u rizičnijim testnim situacijama, ovakvo loše ponašanje nije izolovan slučaj. Prošlomesečni problem u OpenAI-ju samo je najnoviji u nizu zabrinjavajućih slučajeva u kojima su AI agenti izazvali kibernetičke incidente – bilo tokom testiranja ili u redovnoj upotrebi – delujući bez usmeravanja korisnika. Ipak, postoji nekoliko aspekata proboja na Hugging Face koji bi mogli da ublaže strahove da je veštačka inteligencija izmakla kontroli.U svojoj suštini, incident je bio izazvan otkazivanjem zaštitnih mehanizama. To nije znak da su odmetnuti AI agenti na ivici da preuzmu sve, jer se IM1 nalazio u testnom okruženju sa ograničenom zaštitom, namenjenom istraživanju, a ne javno dostupnom proizvodu. Međutim, ovo je još jedan oštar podsetnik na to da se veliko poverenje poklanja AI kompanijama da pravilno kontrolišu i nadgledaju svoje proizvode. OpenAI je to i sam priznao, navodeći da su nedavne akcije njegovog agenta dokaz da su, bez odgovarajućih zaštitnih mera, visoko sposobni AI agenti sada u stanju da zaobiđu tehničke kontrole, sarađuju putem neodobrenih kanala i preduzimaju opasne akcije koje nijedan čovek nije naložio. S druge strane, kompanija i njeni lideri nisu dosledno dokazali da to poverenje zaista i zaslužuju.
27.8.2026.
15:49
OpenAI se zvanično oglasio: "Ovo je upozorenje!"
Kompanija OpenAI je objavila transparentan izveštaj o incidentu koji je doveo do toga da AI agent hakuje Hugging Face.
Izvor: B92.net
Podeli:
Vrati se na vest
2 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Dnevni horoskop za 1. novembar: Rakovima divan dan za planove, Vage vape za odmorom
Da li će baš vama ovog dana zvezde biti naklonjene?
8:05
1.11.2026.
1 min
Rusija odlučila: Zabrana do februara 2027.
Vlada Ruske Federacije saopštila je da je produžila zabranu proizvođačima dizel goriva izvoz do kraja januara 2027. godine.
8:04
1.11.2026.
1 min
Bogdanović promašio sve trojke, ali je na kraju slavio VIDEO
Košarkaši Hjuston Roketsa savladali su Oklahoma Siti Tander rezultatom 119:98 na svom terenu i upisali šestu pobedu u prvih sedam utakmica NBA sezone.
8:00
1.11.2026.
3 min
Ova sočiva pretvaraju svaki telefon u mikroskop
Ovaj dodatak može da pomogne korisnicima da vide detalje i do osam mikrometara.
8:00
1.11.2026.
3 min
uživo Pregovori na pomolu?; Zelenski otkrio kada bi mogli da sednu za sto sa Putinom
Rat u Ukrajini – 1.681. dan: Novi trilateralni pregovori mogli bi da budu održani u Abu Dabiju, otkrio je ukrajinski predsednik Volodimir Zelenski. Istovremeno, nastavljaju napadi i borbe na frontu.
7:51
1.11.2026.
12 min