Nobelovac upozorava: Preti nam AI katastrofa – moguć kolaps banaka i struje već ove godine

Jedan od "kumova veštačke inteligencije", Džefri Hinton, izjavio je da bi se moglo ispostaviti da bi za čovečanstvo bilo bolje da tu tehnologiju nikada nije ni razvilo, upozoravajući da bi ona ove ili sledeće godine mogla da izazove incident velikih razmera, poput privremenog prekida rada finansijskih ili elektroenergetskih sistema.

Ovaj kompjuterski naučnik i dobitnik Nobelove nagrade rekao je za Gardijan da nije "katastrofičar" kada je reč o tehnologiji koja se zasniva na njegovom revolucionarnom istraživanju veštačkih neuronskih mreža i da veruje da veštačka inteligencija (AI) ima potencijal da dovede do "divne budućnosti", ali je dodao: "Možda bi bilo bolje da je nikada nismo ni razvili".

Hinton (78) je rekao da će čovečanstvo u roku od jedne decenije, a možda i ranije, znati da li može da upravlja rizicima ove tehnologije i omogući ono što je nazvao "radikalnim izobiljem", ili ćemo "zakazati u upravljanju rizicima i imati ogroman jaz između bogatih i siromašnih, ogromne kulturološke probleme, masovnu nezaposlenost – jednostavno društvo koje se raspada".

Hinton je govorio uoči projekcije novog dugometražnog dokumentarca AI: Verovatno nema razloga za brigu (AI: Probably Nothing to Worry About) – čiji je naslov predložio jedan AI četbot – u kojem se pojavljuju on i njegov bivši kolega iz Google-a, Demis Hasabis. Hinton u filmu poručuje autorima: "Osećam da imam dužnost. Imam reputaciju koja me čini glasnogovornikom i moram sve to da uložim u ovo".

U razgovoru za Gardijan, Hinton je kritikovao spremnost na rizik lidera pojedinih velikih AI kompanija koje nastavljaju da izbacuju sve moćnije modele u trci za prevlašću i tržišnim udelom, rekavši da Semu Altmanu, izvršnom direktoru kompanije OpenAI koja stoji iza ChatGPT-ja, "uopšte" ne veruje. "Mislim da Zakerberg, Mask i Sem Altman razumeju rizike, i da ih uopšte nije briga. Radije bi uzeli novac. To je moje uverenje".

Naučnik rođen u Londonu, koji je odrastao u Bristolu i veći deo karijere proveo na Univerzitetu u Torontu, rekao je da je "izuzetno zabrinjavajuće" što je Altman na čelu jedne od nekolicine vodećih američkih AI kompanija koje trenutno vode trku sa Kinom za razvoj najmoćnije veštačke inteligencije. Altman je u septembru insistirao: "Svet treba da veruje da ćemo uraditi pravu stvar jer je to ispravno i zato što osećamo veličinu ovoga".

Hinton se veštačkom inteligencijom bavi oko 44 godine i sedamdesetih godina prošlog veka osmislio je koncept neuronske mreže – matematičkog sistema koji može da uči i stiče iskustvo slično ljudima. Godine 2023. napustio je Google kako bi mogao slobodno da govori o rizicima veštačke inteligencije, upozorivši: "Ako se ove stvari zanesu u preuzimanju veće kontrole, u nevolji smo".

Rekao je da incidente od ovog leta, u kojima su AI agenti kompanije OpenAI udruženo pokušali da hakuju veb-sajt Hugging Face, vidi kao nešto slično delimičnom nuklearnom topljenju u elektrani Ostrvo tri milje u Pensilvaniji 1979. godine – praktično kao pucanj upozorenja.

"Ili kasnije ove godine ili sledeće godine videćemo Černobilj, i to bi moglo biti dovoljno da natera ljude da zaista obrate pažnju", rekao je on.

Prema primerima koje je naveo, taj događaj nalik Černobilju ne bi bio nuklearni incident, već bi mogao da podrazumeva napad na sistem za proizvodnju električne energije omogućen veštačkom inteligencijom koji "izaziva masovni pad napona", ili incident koji na nedelju dana obara finansijski sistem.

"Možete li da zamislite šta bi se desilo? Mogli bismo da se oporavimo od toga, ali to bi ih nateralo da se trgnu i obrate pažnju".

Na pitanje ko su "oni", odgovorio je: "Svetski lideri, osim Trampa".

Američki predsednik Donald Tramp izjavio je da "u potpunosti odbacuje svaki pokušaj stvaranja globalističke šeme" za kontrolu veštačke inteligencije i želi da se vodeće AI kompanije same regulišu, usled zabrinutosti da bi pravila mogla da sputaju SAD u trci sa Kinom. Hinton podržava stroži plan koji su podržali predsednik Finske i još 32 zemlje, uključujući Singapur, Nemačku, Kanadu i Australiju, a koji predviđa obavezno testiranje najnaprednijih AI modela, nezavisnu procenu i zajedničke međuvladine standarde.

Britanski premijer Endi Bernam izjavio je da će naredne godine iskoristiti predsedavanje Velike Britanije grupom G20 kako bi tražio dogovor o "jedinstvenom skupu globalnih principa i standarda koji su u velikoj meri usmereni na otključavanje punog potencijala uz zaštitu od rizika".

Hinton je rekao: "Potrebno nam je nešto poput američke Agencije za hranu i lekove (FDA), gde kompanije moraju da pruže veoma dobre statističke dokaze nezavisnom telu da AI model čini više koristi nego štete pre nego što bude pušten u rad. Sa talidomidom [lekom razvijenim pedesetih godina koji je izazvao teške urođene mane] otkrili smo da puštanje na tržište, a zatim tužbe, nije pravi način. Ono što velike tehnološke kompanije govore jeste da se prema ovome odnosimo onako kako smo se odnosili prema talidomidu".

Hintonova uloga jednog od začetnika veštačke inteligencije dovela je do poređenja sa Robertom Openhajmerom, koji je bio ključan za stvaranje nuklearnog oružja. Jedan od Hintonovih prijatelja mu je čak kupio šešir u stilu Openhajmera. Ali on insistira: "Ja nisam bio Openhajmer", navodeći hiljade drugih naučnika koji su takođe radili u istoj oblasti neuronskih mreža.

Uprkos svojim upozorenjima, Hinton u suštini ostaje pun nade da se katastrofa može izbeći.

"Moj osećaj je da i dalje imamo kontrolu", rekao je. "Sasvim je moguće da ćemo moći nešto da uradimo. To će uspeti samo ako uložimo veliki trud, ali sasvim je moguće da ćemo uložiti veliki trud".