Blokada zbog ugrožavanja života: Da li je ovo kraj za opasne AI modele?

Tokom protekle godine rasle su zabrinutosti zbog potencijalnih opasnosti koje nosi veštačka inteligencija, a vodile su se i žustre rasprave o pravom putu za bezbednost AI-ja. Sada se čini da je kompanija Anthropic iznela sopstvenu viziju o tome kako bi država mogla da reguliše ovu industriju.

Politico je nedavno preneo da ova AI laboratorija promovše novi nacrt zakona o bezbednosti veštačke inteligencije, za koji se nada da bi Kongres SAD-a mogao uzeti u razmatranje. Ovaj zakon navodi određene scenarije u kojima bi objavljivanje AI modela moglo biti blokirano.

Ti scenariji uključuju "predvidiv, neposredan rizik" – onaj u kom postoji opasnost da pogine više od 50 ljudi ili da nastane materijalna šteta veća od milijardu dolara, piše Politico. Katastrofalni rizik o kom je reč mora da "potiče od stvaranja ili upotrebe biološkog oružja, situacije u kojoj model izmakne kontroli svog programera ili od sajber napada", napominje ovaj medij.

Ponuđena merila – 50 ljudi i milijardu dolara – slična su onima iz nedavno usvojenog zakona u Kaliforniji, koji je na sličan način definisao te scenarije kao jednake "katastrofalnom riziku".

Nacrt zakona kompanije Anthropic predlaže da se do procene potencijala modela za izazivanje katastrofe dolazi putem "nezavisnih procenitelja" koji bi bili registrovani pri Ministarstvu trgovine SAD. Te procenitelje bi potencijalno mogle da plaćaju same AI laboratorije – pod uslovom da "isplata ne zavisi od rezultata procene", piše Politico.

Nije najjasnije kako bi ovaj predloženi sistem osigurao da isplate ne utiču na procenu. Demis Hasabis, predsednik kompanije DeepMind, izneo je pre nekoliko meseci ideju da bi samoregulišuće telo za AI trebalo da se ugleda na Regulatorno telo za finansijsku industriju (FINRA) iz oblasti finansija.

U nacrtu zakona kompanije Anthropic, kada procenitelji utvrde da postoji neposredan katastrofalni rizik, imali bi rok od 72 sata da o tome obaveste Ministarstvo trgovine. Ministarstvo trgovine bi zatim moralo da zatraži od sudije u Vašingtonu (D.C.) obustavu objavljivanja modela. Ovaj zakon bi izričito zabranio bilo kojoj federalnoj agenciji da po sopstvenom nahođenju obustavi distribuciju modela, piše Politico.

Portparol kompanije potvrdio je postojanje nacrta zakona za Politico. "Ovaj predlog zakona predstavlja mere navedene u Anthropic-ovom Okviru za naprednu veštačku inteligenciju (Advanced AI Framework), za koji se zalažemo pred federalnim i državnim zakonodavcima još od juna", rekao je portparol.