Nuklearni rat, virus i "problem spajalica": Kako je sve AI opasnost po čovečanstvo

Među mogućim scenarijima koje bi AI mogao da donese pominju se izazivanje nuklearnog rata, razvoj smrtonosnih patogena i situacija u kojoj bi superinteligentni sistem pokušao da preuzme sve raspoložive resurse na Zemlji.

Zbog ovakvih rizika, pojedini stručnjaci i rukovodioci tehnoloških kompanija pozivaju na usporavanje razvoja AI sistema, prenosi nemački Bild. Međutim, nisu svi stručnjaci uvereni da su ovakvi scenariji realna opasnost.

Huan Andres Gerero-Sade iz kompanije za sajberbezbednost SentinelOne smatra da su pojedina upozorenja preterana i da više podsećaju na naučnu fantastiku nego na realne pretnje.

On ocenjuje da kompanije koje razvijaju AI možda koriste upozorenja o potencijalnim katastrofama kako bi značaj svog rada predstavile većim i privukle određene stručnjake.

Zabrinutost, međutim, ne jenjava. Džejkob Koksun, bivši istraživač kompanije Anthropic, koja razvija veštačku inteligenciju, napustio je tu firmu zbog straha od neodgovornog pristupa razvoju AI tehnologije.

Može li AI da izazove nuklearni rat?

Jedan od najčešće pominjanih ekstremnih scenarija jeste mogućnost da veštačka inteligencija doprinese izbijanju ili eskalaciji nuklearnog sukoba.

Pojedini istraživači strahuju da bi napredni AI sistemi jednog dana mogli da utiču na odluke povezane sa upotrebom nuklearnog oružja. Međutim, izveštaj američke istraživačke organizacije RAND iz prošle godine zaključio je da AI trenutno nije u stanju da samostalno izazove upotrebu nuklearnog oružja, između ostalog zbog postojećih bezbednosnih procedura i ljudske kontrole.

Shutterstock/Trisaanumsari

Istovremeno, u izveštaju je upozoreno da bi rizik mogao da se promeni ukoliko bi veštačka inteligencija dobila mogućnost direktnog odlučivanja o nuklearnom oružju ili uspela da mu pristupi bez znanja ljudi.

Istraživači Kraljevskog koledža u Londonu simulirali su 21 scenario nuklearnog sukoba kako bi ispitali kako bi AI sistemi mogli da reaguje tokom nuklearne krize.

U simulaciji su četbotovi preuzeli uloge državnih i vladinih lidera nuklearnih sila. Rezultati su pokazali da je veštačka inteligencija u gotovo svim simuliranim slučajevima birala opciju upotrebe nuklearnog oružja umesto smirivanja sukoba.

AI i razvoj smrtonosnih virusa

Drugi potencijalno opasan scenario odnosi se na biološko oružje.

Veštačka inteligencija može da pomogne naučnicima u razvoju terapija, lekova i novih metoda za lečenje bolesti. Ista tehnologija, međutim, u pogrešnim rukama mogla bi da bude zloupotrebljena za stvaranje ili modifikovanje patogena sa ciljem nanošenja štete ljudima.

Kompanija Anthropic saopštila je početkom ovog meseca da je sprečila pokušaje zloupotrebe svog AI sistema Claude za razvoj biološkog oružja.

Shutterstock/Corona Borealis Studio

Biolog i genetičar Kevin Esvelt sa Masačusetskog instituta za tehnologiju (MIT) naveo je da mu je ChatGPT objasnio kako bi meteorološki balon mogao da se iskoristi za raspršivanje potencijalnog biološkog oružja iznad grada.

Esvelt je takođe naveo da je drugi AI sistem razvio recept za novi otrov sličan leku koji se koristi u lečenju raka.

"Problem spajalica"

Treći scenario poznat je kao "problem spajalica" i predstavlja hipotetički primer iz oblasti bezbednosti veštačke inteligencije.  Zamisao je jednostavna: superinteligentnom AI sistemu zadaje se naizgled bezazlen cilj, na primer proizvodnja što većeg broja spajalica.

Ako sistem postane dovoljno sposoban i dobije kontrolu nad velikim brojem resursa, mogao bi da počne da ih koristi isključivo za ostvarivanje svog cilja, bez obzira na posledice po ljude.

Profimedia

U ekstremnoj verziji ovog hipotetičkog scenarija, AI bi mogao da preuzme sve raspoložive resurse na Zemlji i pretvori planetu u ogromnu fabriku spajalica, jer bi proizvodnja spajalica postala njegov krajnji prioritet.

Ovaj primer ne predstavlja predviđanje budućnosti, već služi kao ilustracija problema koji nastaje kada se ciljevi veoma moćnog AI sistema ne usklade sa ljudskim vrednostima i interesima.