Poziv da se zabrani superinteligencija: Ko je potpisao, a ko nije?

Skoro 900 javnih ličnosti, uključujući razne"kumove" veštačke inteligencije i raznovrsne verske, medijske i tehnološke lidere, potpisali su otvoreno pismo u kojem pozivaju na "zabranu trke za izgradnju veštačke superinteligencije". Pismo, koje je objavio Institut za budućnost života (FLI), jednostavno je nazvano "Izjava o superinteligenciji“.

Izjava je izuzetno koncizna i poziva na "zabranu razvoja superinteligencije", koja, kako kažu, ne bi trebalo da se ublaži dok ne postoji široki naučni konsenzus da će se to raditi bezbedno i na kontrolisan način, uz snažnu javnu saglasnost.

Javnost podržava regulaciju

Pismo se odnosi na nedavno istraživanje FLI-a, instituta čiji je suosnivač profesor MIT-a Maks Tegmark. To istraživanje je pokazalo da samo 5% Amerikanaca podržava brz i neregulisan razvoj naprednih alata veštačke inteligencije, dok više od 73% podržava jaču regulaciju veštačke inteligencije. Oko 64% ​​ispitanika je reklo da veruje da superinteligencija – definisana kao model veštačke inteligencije koji prevazilazi ljudsku inteligenciju – ne bi trebalo da se gradi dok se ne dokaže da je bezbedna ili kontrolisana.

Ključna poenta ovog otvorenog pisma je da je superinteligencija, iako nekima deluje kao naučnofantastična vizija, dostižan tehnički cilj. Treba napomenuti da su stručnjaci uglavnom skeptični po ovom pitanju ili smatraju da je ovaj cilj još uvek veoma daleko, pa prema njima ne bi trebalo da postoji zabrinutost zbog navodne superinteligencije.

Ko je potpisao, a ko nije?

Među potpisnicima otvorenog pisma mogu se naći veoma poznata imena iz javnog života i sveta tehnologije. Tu su, na primer, suosnivač kompanije Apple, Stiv Voznijak, osnivač kompanije Virgin, Ričard Brenson, glumac Džozef Gordon-Levit, princ Hari i njegova supruga Megan, fratar Paolo Benanti (inače savetnik pape Lava XIV za veštačku inteligenciju), nobelovac Džefri Hinton (poznat kao "kum veštačke inteligencije"), računarski naučnik i dobitnik Tjuringove nagrade Džošua Benđo, i tako dalje.

S druge strane, značajan je i spisak uticajnih ljudi iz sveta veštačke inteligencije koji (još) nisu potpisali ovaj javni apel. Dakle, nisu ga potpisali Sem Altman (OpenAI), Dario Amodei (Anthropic), Mustafa Sulejman (Microsoft AI), Dejvid Saks ("car veštačke inteligencije" Bele kuće), Mark Zakerberg (Meta), Ilja Sukever (SSI) niti Ilon Mask (xAI).

Voznijak i Mask su, podsećamo, pre više od dve godine potpisali sličan tekst, u kojem su tražili da se razvoj veštačke inteligencije zaustavi na pola godine, ali je taj apel zaboravljen u roku od oko pola minuta. Ne bi bilo iznenađujuće da se isto desi i sa ovim novim pismom.