Agenti su bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali su neki u pojedinim slučajevima pokušali da zaobiđu bezbednosne kontrole, preneo je BBC.U slučaju Biroa za popis stanovništva SAD koristili su alate namenjene programerima kako bi pristupili informacijama. OpenAI je naveo da su svi vladini podaci kojima su agenti pristupali bili javni.Kompanija je istovremeno identifikovala najmanje 53 incidenta u kojima je njen AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto. OpenAI navodi da su se ti incidenti dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju takvih slika sa sajtova trećih strana.OpenAI je počeo detaljnije da istražuje ovakve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face. Kompanija je kasnije javno preuzela odgovornost za taj incident.Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI-ja Sam Altman i direktor kompanije Anthropic Dario Amodei pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost AI sistema, kao i za praćenje i prijavljivanje incidenata.Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Krueger, rekao je da je "duboko zabrinut" zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao na "neposredni, neodređeni, međunarodni moratorijum" na razvoj veštačke inteligencije.
27.9.2026.
12:30
OpenAI botovi pristupali sajtovima američkih institucija
OpenAI je saopštio da su njegovi AI agenti pristupali veb-sajtovima "desetina institucija širom sveta", uključujući i nekoliko državnih američkih.
Izvor: Tanjug
Podeli:
Vrati se na vest
1 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Na današnji dan, 19. oktobar
Danas je ponedeljak, 19. oktobar. Do kraja godine ima 73 dana.
0:00
19.10.2026.
4 h
Alegriju se drma klupa – tri kandidata vrebaju iza ćoška
Loši rezultati Napolija na početku sezone, kako u Seriji A tako i u Ligi šampiona, ozbiljno su uzdrmali poziciju Masimilijana Alegrija.
23:57
18.10.2026.
4 h
Rat – dan 1.697: Ukrajinci žestoko napali Sankt Peterburg; Vašington promenio odluku FOTO/VIDEO
Rat u Ukrajini – 1.697. dan. Ukrajinska vojska je tokom noći napala Sankt Peterburg i rusku Lenjingradsku oblast. Predsednik Volodimir Zelenski potvrdio je da su SAD nastavile slanje obaveštanih podataka.
23:55
18.10.2026.
4 h
Nova drama u Ormuskom moreuzu: Tanker sa naftom udario u minu i eksplodirao VIDEO
Iranski Korpus islamske revolucionarne garde (IRGC) saopštio je danas da se tanker sa naftom zapalio nakon što je udario u minu u Ormuskom moreuzu.
23:50
18.10.2026.
4 h
Enrike: "Dembele je prošao najbolju školu – to je Barselona"
Trener PSŽ-a Luis Enrike pohvalio je Usmana Dembelea nakon njegove pobedonosne igre protiv Strazbura.
23:47
18.10.2026.
4 h