OpenAI obustavio obuku: AI modeli počeli da se "odmeću"

Odluka o obustavljanju razvoja doneta je samo nekoliko sati nakon što je kompanija u petak otkrila da preispituje nekoliko incidenata u kojima su agenti OpenAI-a, koji su pretraživali veb stranice savezne vlade, delovali na neočekivane načine, izvan onoga što je od njih traženo, dok su prikupljali i distribuirali informacije, prenosi Gardijan.

U isto vreme, kompanija za razvoj veštačke inteligencije "Transluce" saopštila je da su agenti koji su, izgleda, došli iz kompanije OpenAI bezuspešno pokušali da hakuju veb stranicu Ministarstva prosvete Sjedinjenih Američkih Država, što predstavlja detalj koji OpenAI nije potvrdio.

OpenAI je u saopštenju naveo da će nastaviti obuku "samo kada budu sigurni da imaju dodatne mere zaštite", dodajući da očekuju da će morati ponovo da proglase pauzu, kako se veštačka inteligencija bude razvijala i kako se budu pojavljivala druga pitanja.

Australijski premijer Entoni Albaneze saopštio je prošle nedelje da je veštačka inteligencija, agent OpenAI probio nacionalni zdravstveni sistem vlade, ali da nisu bile ugrožene osetljive informacije.

Ovo je drugi put za tri meseca da je OpenAI zaustavio razvoj svojih modela, a prvi se dogodio u julu nakon što je otkriven sajber napad na startap za veštačku inteligenciju "Hugging Face".

Kompanije za veštačku inteligenciju suočavaju se sa pritiskom zakonodavaca i tehnoloških stručnjaka da uspore razvoj kako bi mogle da izgrade zaštitne ograde koje bi sprečile agente da deluju samostalno, hakuju veb stranice i otkrivaju nejavne informacije.