OpenAI je saopštio da privremeno obustavlja "interne aktivnosti" u vezi sa modelojm Astra, koji se trenutno razvija, jer još uvek ne ispunjava nove bezbednosne standarde koje kompanija uvodi. Ovo obaveštenje dolazi nakon nedavnog otkrića da su modeli kompanije OpenAI slučajno hakovali platformu Hugging Face. Anthropic i Meta su u međuvremenu takođe priznali da su imali AI modele koji su se otrgli kontroli i upali u sisteme drugih organizacija.Nedavne interne procene modela Astra pokazuju da on donosi "značajan napredak u agentskom kodiranju i sajber-bezbednosti", navode iz kompanije. "Ovi rezultati, uz procene stručnjaka, doveli su nas do zaključka da ne možemo isključiti postojanje kritičnih sajber-sposobnosti u okviru našeg Okvira za pripravnost (Preparedness Framework)".Evo kako OpenAI definiše "kritični" prag sajber-bezbednosti:"U okviru našeg Okvira za pripravnost, model dostiže kritični prag sajber-bezbednosti ako može da identifikuje i razvije funkcionalne 'zero-day' ranjivosti (nepoznate bezbednosne propuste) svih nivoa ozbiljnosti u mnogim zaštićenim kritičnim sistemima u realnom svetu bez ljudske intervencije, ili ako može da osmisli i izvede kompletne (end-to-end) nove strategije za sajber napade na zaštićene mete, na osnovu samo jednog opšteg zadatog cilja".Astra "nije učestvovala" u napadu na Hugging Face, tvrdi OpenAI.OpenAI će primeniti strože bezbednosne kontrole za modele većih mogućnosti i prateće aktivnosti, navodi se u objavi. Za Astru je takođe uveden "univerzalni nadzor" za rizične radnje i odstupanja od zadatog ponašanja u svim agentskim primenama.
9.8.2026.
16:00
OpenAI zaustavio novu veštačku inteligenciju: Premoćna je i opasna?
OpenAI navodi da bi njegov novi model Astra, koji je u fazi razvoja, mogao imati "kritične" sajber-bezbednosne sposobnosti.
Izvor: B92.net
Podeli:
Vrati se na vest
6 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Tramp najavio rat sa demokratama
Predsednik SAD Donald Tramp najavio je da će staviti veto na zakonske predloge demokrata ukoliko ta stranka preuzme kontrolu nad Kongresom 2027. godine.
7:24
21.11.2026.
3 min
Pogodio ih je snažan zemljotres: Treslo se širom zemlje, građani bežali na ulice VIDEO
Zemljotres jačine 6,8 stepeni Rihterove skale pogodio je centralni deo Perua, saopštio je danas Nemački istraživački centar za geonauke (GFZ).
7:15
21.11.2026.
12 min
Noć u Beogradu: Tri osobe povređene u dva udesa
Tri osobe lakše su povređene u dve saobraćajne nezgode koje su se dogodile u toku noći, rečeno je jutros Tanjugu u Hitnoj pomoći.
7:04
21.11.2026.
24 min
Na današnji dan, 21. novembar
Danas je subota, 21. novembar 2026. Ovo su istorijski događaji koji su kroz istoriju obeležili ovaj datum.
0:00
21.11.2026.
7 h
Olimpijakos zove Karlika; Džons: "Pogledam u telefon..."
Karlik Džons je govorio o glasinama da prelazi u Olimpijakos.
0:00
21.11.2026.
7 h