OpenAI je saopštio da privremeno obustavlja "interne aktivnosti" u vezi sa modelojm Astra, koji se trenutno razvija, jer još uvek ne ispunjava nove bezbednosne standarde koje kompanija uvodi. Ovo obaveštenje dolazi nakon nedavnog otkrića da su modeli kompanije OpenAI slučajno hakovali platformu Hugging Face. Anthropic i Meta su u međuvremenu takođe priznali da su imali AI modele koji su se otrgli kontroli i upali u sisteme drugih organizacija.Nedavne interne procene modela Astra pokazuju da on donosi "značajan napredak u agentskom kodiranju i sajber-bezbednosti", navode iz kompanije. "Ovi rezultati, uz procene stručnjaka, doveli su nas do zaključka da ne možemo isključiti postojanje kritičnih sajber-sposobnosti u okviru našeg Okvira za pripravnost (Preparedness Framework)".Evo kako OpenAI definiše "kritični" prag sajber-bezbednosti:"U okviru našeg Okvira za pripravnost, model dostiže kritični prag sajber-bezbednosti ako može da identifikuje i razvije funkcionalne 'zero-day' ranjivosti (nepoznate bezbednosne propuste) svih nivoa ozbiljnosti u mnogim zaštićenim kritičnim sistemima u realnom svetu bez ljudske intervencije, ili ako može da osmisli i izvede kompletne (end-to-end) nove strategije za sajber napade na zaštićene mete, na osnovu samo jednog opšteg zadatog cilja".Astra "nije učestvovala" u napadu na Hugging Face, tvrdi OpenAI.OpenAI će primeniti strože bezbednosne kontrole za modele većih mogućnosti i prateće aktivnosti, navodi se u objavi. Za Astru je takođe uveden "univerzalni nadzor" za rizične radnje i odstupanja od zadatog ponašanja u svim agentskim primenama.
9.8.2026.
16:00
OpenAI zaustavio novu veštačku inteligenciju: Premoćna je i opasna?
OpenAI navodi da bi njegov novi model Astra, koji je u fazi razvoja, mogao imati "kritične" sajber-bezbednosne sposobnosti.
Izvor: B92.net
Podeli:
Vrati se na vest
0 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Hamas "za"; Bibi "protiv" – udario na Trampa
Palestinska militantna grupa Hamas pozvala je danas na punu primenu plana od 15 tačaka za Pojas Gaze američkog predsednika Donalda Trampa.
17:27
9.8.2026.
3 min
Od sjaja do očaja: Liverpul prosuo veliku prednost
Fudbaleri Liverpula poraženi su od Monaka rezultatom 3:2 u uzbudljivoj pripremnoj utakmici, iako su posle manje od pola sata imali dva gola prednosti.
17:26
9.8.2026.
3 min
Partizanov protivnik odložio utakmicu
Tobol je odložio meč kazahstanskog šampionata.
17:25
9.8.2026.
3 min
Uspelo potapanje barži: Blok 2 nuklearke Černavoda radi normalno
Blok 2 nuklearne elektrane "Černavoda" u Rumuniji radi u okviru normalnih parametara i može da obezbedi energiju potrebnu za najmanje narednih devet dana, izjavio je direktor nuklearke Romeo Urjan.
17:21
9.8.2026.
9 min
Samardžić postigao golčinu, pa opisao majstoriju
Srpski reprezentativac Lazar Samardžić obeležio je prijateljsku utakmicu Atalante i Šalkea fenomenalnim pogotkom.
17:15
9.8.2026.
15 min