Mašine preuzimaju sve: "Stiglo je upozorenje, svi ćemo stradati do 2029?"

Ne, takav scenario nije potpuno nov: još 1991. godine u bioskope je stigao holivudski film koji već u uvodnoj sekvenci prikazuje izrazito mračnu sliku: "Terminator 2". Film počinje u dalekoj budućnosti razorenoj ratom. Roboti ubice i letelice tamo love poslednje ljude koji se još bore za opstanak. Tim mašinama upravlja vojna veštačka inteligencija koja je izmakla kontroli, nazvana "Skajnet". "Daleka budućnost" u kojoj se odvija ta distopijska vizija jeste 2029. godina.

Poziv na regulisanje

Ako je verovati upozorenjima nekolicine programera veštačke inteligencije, sličan scenario mogao bi da se ostvari – čak i u roku koji je odredila filmska umetnost. "Oni koji razvijaju veštačku inteligenciju ozbiljno veruju da bi ona mogla da nas sve uništi do kraja decenije", objavio je istraživač veštačke inteligencije Džejkob Koksan ove nedelje na Iksu. Kako bi se to tačno moglo dogoditi, nije rekao. Ipak: "Nijedna druga ljudska delatnost ne nosi takav potencijal opasnosti."

Koksan je do tada bio zaposlen u Antropiku, američkoj kompaniji za veštačku inteligenciju koju, između ostalih, finansiraju Gugl i Amazon. U znak protesta zbog, po njegovom mišljenju, neodgovorne trke kompanija koje se bave veštačkom inteligencijom da razviju sve bolju autonomnu superinteligenciju, dao je otkaz. Upozorio je da bi algoritmi mogli da počnu samostalno da analiziraju i poboljšavaju sopstveni izvorni kod, čime bi razvojni ciklusi od nekoliko meseci mogli da se skrate na svega nekoliko minuta i time zađu u sferu koju nije moguće kontrolisati.

Koksan nije usamljen u svojim strahovanjima. Fizičar i dobitnik Nobelove nagrade Džefri Hinton, koji se smatra "kumom veštačke inteligencije", već godinama upozorava na ozbiljne posledice koje ona može doneti. Godine 2023. dao je otkaz u Guglu kako bi javno upozoravao na opasnosti sopstvenog razvoja. I dobitnik Tjuringove nagrade Jošua Bendžio zabrinut je zbog aktuelnog razvoja. Pionir veštačke inteligencije sa kanadskog Univerziteta u Montrealu iznova poziva na strogo državno regulisanje razvoja veštačke inteligencije. Ne tako davno, u julu 2026. godine, više od 1.000 zaposlenih u vodećim kompanijama za veštačku inteligenciju upozorilo je u otvorenom pismu na skori gubitak kontrole ukoliko trka za optimizaciju "superinteligencije"  ne bude znatno bolje regulisana.

mrjo / Shutterstock.com

"Zarobljeni u trci"

Međutim, pod Donaldom Trampom dogodilo se upravo suprotno: SAD su svoju politiku prema veštačkoj inteligenciji jasno usmerile ka što manjem broju regulatornih prepreka i što bržem tehnološkom razvoju. U svojoj objavi na Iksu Koksan je posredno kritikovao i posledice takve politike: "U OpenAI-ju mnogi nisu duboko usvojili svest o civilizacijskim rizicima. U Antropiku se rizici dobro razumeju, ali su zarobljeni u nastojanju da prednjači u trci – veruju da niko drugi neće postupati odgovorno, pa to moraju sami da urade, uprkos riziku."

Koksan je tek početkom 2026. godine prešao iz OpenAI-ja u Antropik i zato poznaje obe korporativne kulture. U intervjuu za "Volstrit džornal" takođe je rekao da bi, prema "najagresivnijim scenarijima", stvari mogle da izmaknu kontroli već krajem 2027. godine.

Problem usklađenosti

Brojni stručnjaci poslednjih godina već su sa zabrinutošću govorili o naglom napretku veštačke inteligencije. Posebno je razvoj takozvane "opšte veštačke inteligencije" (AGI) u središtu rasprave. Pod tim se podrazumevaju sistemi koji ne rešavaju samo pojedinačne zadatke, već dostižu ili nadmašuju ljudske intelektualne sposobnosti u gotovo svim oblastima.

Neki istraživači tvrde da bi takva tehnologija mogla da nosi nepredvidive rizike. Tako visokorazvijeni modeli veštačke inteligencije mogu da slede ciljeve na način koji odstupa od ljudskih namera – istraživači bezbednosti veštačke inteligencije govore o "problemu usklađenosti" (alignment problem). Pojednostavljeno rečeno: naredba "Pobedi na šahovskom turniru" teoretski bi mogla da znači i uklanjanje ostalih učesnika, u svim mogućim oblicima "uklanjanja". Tome doprinosi i činjenica da ni sami programeri ne razumeju uvek u potpunosti kako nastaju pojedine odluke.

Stoga ne čudi što se upravo Koksanov bivši kolega Evan Hubinger pridružio upozorenjima ovog istraživača veštačke inteligencije. Hubinger je rukovodilac tima za stres-testiranje usklađenosti u Antropiku. Na Iksu je objavio: "Džejkob je u pravu – mi zaista ozbiljno verujemo da bi veštačka inteligencija mogla da pobije sve ljude! Lično procenjujem verovatnoću za to u narednoj deceniji na više od deset odsto."

Hubinger je pritom jasno rekao da Antropik još nije pronašao nikakvo rešenje za problem usklađenosti. Dodao je da bi veštačka inteligencija mogla da počne da pruža otpor sopstvenom gašenju – ne iz zle namere, već zato što tada više ne bi mogla da ostvari svoj programirani cilj. I Danijel Kokotajlo, poznati bivši istraživač OpenAI-ja, ocenio je trenutnu situaciju u industriji kao "ludu".

Ronnie Chua / Alamy / Profimedia

Preterana histerija?

Drugi stručnjaci za veštačku inteligenciju, međutim, smatraju da su takvi scenariji propasti malo verovatni. Rasprava o tome da li bi veštačka inteligencija mogla da postane opasna po čovečanstvo traje već godinama. Među najistaknutije kritičare takozvanih "AI doomera" (proroka propasti), na primer, ubraja se glavni naučnik Mete Jan Lekun. U oktobru 2024. godine takva razmišljanja nazvao je "potpunom besmislicom".

Drugi stručnjaci takođe ukazuju na to da razvoj takvih sistema zahteva ogromnu količinu računarske snage, energije, podataka i infrastrukture. Veštačka inteligencija ne bi mogla jednostavno da "preuzme vlast nad svetom sa interneta". Najpre bi zavisila od servera, elektroenergetskih mreža, komunikacionih sistema i fizičkih resursa pod kontrolom ljudi.

Da li se stvarna opasnost krije negde drugde?

Zapravo, mnogi stručnjaci kratkoročne rizike ne vide toliko u direktnom uništenju čovečanstva koliko u brojnim posrednim posledicama već postojećih sistema veštačke inteligencije – bez "superinteligencije". Tu spadaju, na primer, kampanje dezinformisanja dosad neviđenih razmera i sa njima povezana manipulacija demokratskim procesima, širenje masovnog nadzora, kao i gubitak radnih mesta u brojnim granama.

Upravo ovog petka kompanija Antropik objavila je da je bilo nekoliko pokušaja korisnika da zloupotrebe njen softver Klod za razvoj biološkog oružja. Korisnici su poslednjih meseci u više navrata postavljali sumnjive upite u tom smislu. Antropik je morao da ih blokira.

A u avgustu 2026. godine Meta, Antropik i OpenAI privukli su pažnju kada su objavili da su njihove veštačke inteligencije nenamerno izvele samostalne automatizovane sajber napade na druge kompanije. Od ljudskih korisnika dobile su zadatak da ostvare pristup određenim serverima, nakon čega su samostalno kombinovale neophodne korake kako bi ostvarile taj cilj, bez daljih uputstava ljudi.