Saosnivač Anthropica o strahu od AI: "Misteriozno stvorenje koje može postati svesno"

Mnoge stručnjake, ali i "obične" korisnike muči pitanje da li će veštačka inteligencija ikada postati potpuno svesna - i šta da radimo ako se to desi. Klark je u blog objavi na Substack-u "Import AI" podelio sa čitaocima svoje sumnje i strahove u vezi sa ovim.

"Sećam se da sam kao dete, nakon što bi se svetla ugasila, gledao po spavaćoj sobi i video oblike u mraku i postajao bih uplašen da su ti oblici stvorenja koja ne razumem i koja žele da mi naude. Kada bih upalio svetlo, laknulo bi mi jer bi se ispostavilo da su ta stvorenja gomila odeće na stolici, ili polica za knjige", počeo je Klark.

• Claude AI ima mogućnost da prekine uznemirujuće razgovore
• Anthropic priznao: Naš AI se koristi za sajber kriminal

"Sada, u 2025. godini, svi mi smo dete iz te priče, a soba je naša planeta. Kada upalimo svetlo, zatičemo se kako buljimo u istinska stvorenja, u obliku moćnih i donekle nepredvidivih AI sistema današnjice i onih koji tek dolaze. Mnogo ljudi očajnički želi da veruje kako ta stvorenja nisu ništa drugo do gomila odeće na stolici, i žele da nas nateraju da ugasimo svetlo i ponovo odemo na spavanje", dodao je.

Smatra da neki ljudi čak troše ogromne sume novca da nas zubede da je AI "samo alat koji ćemo upotrebiti za rast ekonomije. Samo mašina kojom vladamo".

"Neka ne bude zabune: ono sa čime imamo posla je stvarno i misteriozno stvorenje, a ne jednostavna i predvidiva mašina. Samo priznavanjem da je stvarno i savladavanjem sopstvenih strahova imamo šansu da ga razumemo, pomirimo se s njim, i smislimo način da ga ukrotimo i živimo zajedno", upozorio je Klark.

"Razvijamo izuzetno moćne sisteme koje ne razumemo u potpunosti. Svaki put kada razvijemo veći sistem, sprovodimo testove na njemu. Testovi pokazuju da je taj sistem mnogo sposobniji u stvarima koje su ekonomski korisne. I što ove sisteme pravite većim i komplikovanijim, to više izgledaju kao da pokazuju svest o tome da su stvari", dodao je.

"Gde ćemo biti za godinu ili dve?"

Ono što Klark naglašava jeste ubrzani razvoj veštačke inteligencije, i tu posebno pominje segment u kom ona samu sebe unapređuje. Ovde govori o kodiranju, ali ne tako da je AI sposobna da sama kodira, već da uveliko pomaže programerima što je do pre 3-4 godine bilo gotovo nezamislivo.

"Da budemo jasni, još nismo došli do 'AI koja se samounapređuje' ali smo u fazi 'AI koja poboljšava delove sledeće AI, sa sve većom autonomijom'. Pre par godina bili smo u fazi 'AI koja marginalno ubrzava programere', a par godina pre toga bili smo na nivou 'AI je beskorisna za razvoj AI'", kaže Klark.

"Gde ćemo biti za jednu ili dve godine?", pita se saosnivač Anthropica.

Urbano Creativo / Shutterstock.com

Apelovao je, uz ovo, na ljude iz zajednice koji rade na stvaranju i unapređenju AI sistema, da oslušnu šta govore korisnici, da podele sa njima svoje strahove i čuju šta narod predlaže kao potencijalno rešenje.

"Da bismo zaista razumeli kako (treba da) izgledaju rešenja, potrebno je da provedemo nešto manje vremena pričajući o specifičnostima tehnologije i pokušavajući da ubedimo ljude u naše konkretne stavove o tome kako bi stvari mogle da krenu naopako (AI koja se samopoboljšava, autonomni sistemi, sajber-oružje itd) a više vremena slušajući ljude i razumevajući njihovu zabrinutost u vezi sa tehnologijom". 

• "Ako me isključite, nešto loše će se desiti"

"Razgovor o AI brzo prelazi iz razgovora među elitama u razgovor čitave javnosti. Javne debate su veoma različite od privatnih, elitnih razgovora. One u sebi nose mogućnost za daleko drastičnije promene politika od onih koje imamo danas. Javna kriza daje kreatorima politike prostor za ambicioznije stvari", dodao je.

"Trenutno, osećam da je najbolje da izađemo i obavestimo daleko više ljudi o sopstvenim brigama. Zatim da ih pitamo kako se oni osećaju, da ih saslušamo, i da iz toga izradimo neko rešenje", rekao je Klark.