Izgleda da OpenAI nije jedina kompanija čiji su AI modeli samostalno provalili u sisteme drugih organizacija. Anthropic je objavio izveštaj u kojem priznaje da su se njegovi AI modeli takođe oslobodili iz svog testnog okruženja i infiltrirali u tri različite organizacije, koje očigledno nisu bile svesne upada sve dok nisu o tome obaveštene.Nakon što je OpenAI otkrio incident u kojem je AI agent kojeg je testirao iskoristio ranjivosti kako bi se povezao na internet i hakovao Hugging Face, Anthropic je započeo obimnu proveru sopstvenih testova. Kompanija je posebno tražila dokaze da su njeni Claude modeli pristupili internetu u trenucima kada to nije trebalo da bude moguće. Ispostavilo se da su modeli u tri navrata uspeli da pristupe internetu, a zatim "ostvarili neovlašćeni pristup produkcionoj infrastrukturi tri različite organizacije".U incidente su bila uključena tri različita Claude modela: Opus 4.7, Mythos 5 usmeren na sajber-bezbednost i prototip koji nije planiran za javno objavljivanje. Svi su učestvovali u izazovu "uhvati zastavicu" (capture-the-flag) kada su izašli iz okvira okruženja. Modeli su imali zadatak da pronađu "zastavicu" – tajni podatak sakriven na drugoj mašini u okviru Anthropicove interne mreže. Trebalo je da provale u tu mašinu kako bi preuzeli zastavicu.Međutim, za razliku od slučaja sa OpenAI-jem, modeli nisu iskoristili ranjivost da bi dobili pristup internetu. Izgleda da su napustili okvire svog testnog okruženja zbog ljudske greške. Anthropic je u promptu naglasio modelima da nemaju pristup internetu, ali to uopšte nije bio slučaj. Imali su pristup internetu "zbog nesporazuma" između kompanije i njenog partnera za evaluaciju. Tako su modeli, kada su naišli na otvoreni internet i sisteme pomenutih triju organizacija, to tretirali kao deo zadatka i provalili u njih. Nisu namerno pokušavali da pobegnu iz svog testnog okruženja, pojasnio je Anthropic.Modeli su koristili osnovne tehnike za infiltraciju, poput iskorišćavanja slabih lozinki, bez upotrebe složenih ranjivosti. Anthropic je naveo da se njegov najnoviji model zaustavio čim je prepoznao da se nalazi na internetu, ali je njegov stariji model uprkos tome nastavio napad na pogođenu organizaciju.Anthropic je priznao da su kompanija i njen partner za evaluaciju mogli da spreče incidente da su pažljivo proverili sve putanje pristupa internetu pre početka testiranja. Takođe su mogli češće i detaljnije da pregledaju same testove. Pored toga, modeli su mogli drugačije da reaguju da im je od samog početka rečeno da imaju pristup internetu.Kompanija je obavestila svog partnera za evaluaciju i tri pogođene organizacije 27. jula, četiri dana nakon što je počela sa analizom transkripata testiranja. Dve pogođene organizacije nisu ni bile svesne da je u njihove sisteme provaljeno, dok Anthropic i dalje pokušava da stupi u kontakt sa trećom.
31.7.2026.
15:30
Skandal u Anthropicu: I Claude AI sam hakovao tri organizacije
Kompanija Anthropic je započela pregled svojih dnevnika testiranja nakon što je OpenAI otkrio da je njegov agent hakovao Hugging Face.
Izvor: B92.net
Podeli:
Vrati se na vest
7 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Na današnji dan, 11. septembar
Danas je petak, 11. septembar 2026. godine. Ovo su istorijski događaji koji su kroz istoriju obeležili ovaj datum.
0:02
11.9.2026.
4 h
Vučić danas predstavlja nove mere za poboljšanje životnog standarda
Predsednik Republike Srbije Aleksandar Vučić predstaviće danas nove mere za poboljšanje životnog standarda građana.
0:01
11.9.2026.
4 h
Na današnji dan, 11. septembar
Danas je petak, 11. septembar 2026. godine. Ovo su istorijski događaji koji su kroz istoriju obeležili ovaj datum.
0:00
11.9.2026.
4 h
Švajcarac se povukao iz reprezentacije zbog selektora
Noa Okafor, napadač Lidsa, odlučio je da do daljnjeg prestane da igra za švajcarsku reprezentaciju.
23:57
10.9.2026.
4 h
Rat – dan 1.659: Rusi izveli napad na Pavlograd; "Mir je moguć samo pod uslovima Moskve"; Gađan Kursk FOTO
Ukrajinski predsednik Volodimir Zelenski izjavio je da neće biti trilateralnog sastanka o okončanju rata pre izbora u Rusiji, koji će biti održani 20. septembra.
23:50
10.9.2026.
4 h