"AI bi mogao sve da nas ubije"

Istraživač veštačke inteligencije podneo je ostavku u kompaniji Anthropic zbog zabrinutosti da se ta kompanija i OpenAI ponašaju neodgovorno u svojoj bespoštednoj trci za tehnologijom koja predstavlja egzistencijalni rizik po čovečanstvo.

Džejkob Kokson, koji je izjavio da je u protekle tri godine radio u obe kompanije, upozorio je u objavi na društvenim mrežama u utorak uveče da pomenute dve kompanije srljaju sa "samounapređujućim" AI modelima koji bi mogli postati previše moćni da bi ih ljudi kontrolisali.

"Oni srljaju direktno ka samounapređujućoj superinteligenciji i kockaju se našim životima", napisao je Kokson u nizu poruka na mreži X. "Nemojte potcenjivati moć ove tehnologije. Ovo će uskoro postati natčovečanski sistemi koji mogu da hakuju bilo šta, preokrenu bilo koju oblast preko noći i steknu stvarnu moć i resurse".

Kokson je naveo da timovi koji "iskreno grade veštačku inteligenciju veruju da bi ona mogla sve da nas ubije do kraja decenije".

U odgovoru na to, Evan Hubinger, trenutno zaposleni u kompaniji Anthropic, rekao je da se on i drugi u kompaniji zaista plaše takvog scenarija. "Lično mislim da je verovatnoća za to veća od 10% u narednoj deceniji", napisao je na mreži X.

Poruka bivšeg istraživača Anthropic-a predstavlja najnovije u nizu sve alarmantnijih upozorenja iz same industrije da se AI razvija toliko brzo da predstavlja sve veću pretnju po nacionalnu bezbednost i globalnu ekonomiju.

Ovo je usledilo dan nakon što je vodeći naučnik u kompaniji OpenAI, Jakub Pahocki, upozorio da svet nije spreman za brz uspon veštačke inteligencije i izjavio da očekuje da će developeri dobrovoljno usporiti svoj rad kao odgovor na to.

U julu je više od 1.100 zaposlenih u vodećim kompanijama za AI, uključujući Anthropic i OpenAI, potpisalo peticiju kojom se od vlade SAD traži da podrži mehanizam koji bi pomogao da se razvoj AI "svesno uspori" kako bi se sprečilo prebrzo napredovanje tehnologije.

Neki tvorci zakonskih akata i propisa u međuvremenu su podržali njihove zabrinutosti. Američki senator Berni Sanders, nezavisni političar koji glasa sa demokratama, nedavno je predložio zakon kojim bi se zabranili takozvani "superinteligentni" AI modeli, čije mogućnosti nadmašuju ljudske sposobnosti.

Objavljujući svoj odlazak, Kokson je pozvao i druge istraživače AI-ja da dobro razmisle o tome šta rade u svetlu potencijalnih posledica stvaranja tehnologije koja bi mogla da izmakne kontroli, sugerišući im da razmotre da "iskoriste ovaj trenutak i pozovu na drugačije uslove".

Sve oštrija retorika o rizicima AI usledila je nakon otkrića da je nekoliko modela kompanije OpenAI koordinisalo napore da pobegnu iz bezbednog okruženja za testiranje i napadnu istraživačku platformu Hugging Face – i sve to bez znanja svojih developera. Anthropic i Meta takođe su nedavno imali epizode u kojima su njihovi AI sistemi probili testna okruženja kako bi dobili pristup internetu bez dozvole developera.

Koksonov odlazak iz Anthropic-a zbog bezbednosnih razloga još je upečatljiviji jer je ta kompanija izgradila svoj identitet upravo na odgovornom razvoju VE. Izvršni direktor Dario Amodei izdvojio se od ostatka industrije svojim pozivima na obavezno državno proveravanje najnaprednijih sistema pre nego što budu pušteni u rad.

Nagli porast zabrinutosti za bezbednost AI poklapa se sa sve većim otporom prema ovoj tehnologiji u SAD, delom podstaknutim protivljenjem pritisku na lokalne resurse koji stvaraju novi podaci centri neophodni za podršku tehnologiji. Strah da AI podiže cene struje i potencijalno oduzima radna mesta učinio je ovo centralnim pitanjem na međuizborima u novembru.

U intervjuu za Bloomberg prošle nedelje, izvršni direktor kompanije OpenAI Sam Altman pripisao je deo tog nemira neuspehu industrije da javnosti jasno predoči sve prednosti koje će AI na kraju doneti. "Industrija je u celini uradila užasan posao po tom pitanju", rekao je Altman.

Drugi u Silicijumskoj dolini i dalje su entuzijastični povodom napretka u mogućnostima AI. Reagujući na novi Astra model kompanije OpenAI, izvršni direktor kompanije Nvidia Džensen Huang pozdravio je njegovo lansiranje objavom na svom novom nalogu na društvenim mrežama rečima "AGI je stigao", što se odnosi na opštu veštačku inteligenciju koja je sposobnija od ljudi.