Bil Gejts: "AI je dovoljno moćan da izazove milijarde smrti"

U intervjuu za NBC Gejts je rekao da je AI dovoljno moćan da u krajnjem scenariju izazove događaje sa ogromnim brojem žrtava.

On je posebno kritikovao oslanjanje isključivo na samoregulaciju tehnoloških kompanija. Prema njegovim rečima, vlade i institucije moraju da učestvuju u definisanju pravila, nadzora i bezbednosnih mehanizama za najmoćnije AI sisteme.

Istovremeno je naglasio da regulacija ne bi trebalo da zaustavi razvoj tehnologije. Njegov argument je da dodatni nadzor može predstavljati određeno opterećenje za kompanije, ali ne mora dramatično da uspori razvoj veštačke inteligencije.

Govoreći o najgorem mogućem scenariju, Gejts je upozorio da kombinacija moćnih AI alata i ljudi sa lošim namerama predstavlja posebno ozbiljan rizik, a kao krajnju posledicu pomenuo je mogućnost događaja koji bi mogli da dovedu do milijardu smrti.

Alexandros Michailidis/Shutterstock.com

Gejts je odbacio ideju da bi jednostavan "glavni prekidač" bio dovoljan za kontrolu naprednih AI sistema. Umesto toga, smatra da se bezbednost mora rešavati kroz razumevanje načina na koji sistemi rade, kontinuirani nadzor i odgovarajuća pravila.

Njegove izjave dolaze u trenutku kada tehnološka industrija sve intenzivnije raspravlja o tome kako kontrolisati sve sposobnije AI modele. Istovremeno, OpenAI, Anthropic i druge kompanije objavljuju sve više podataka o zabrinjavajućem ponašanju svojih modela tokom internih testiranja.