Istraživač veštačke inteligencije podneo je ostavku u kompaniji Anthropic zbog zabrinutosti da se ta kompanija i OpenAI ponašaju neodgovorno u svojoj bespoštednoj trci za tehnologijom koja predstavlja egzistencijalni rizik po čovečanstvo.Džejkob Kokson, koji je izjavio da je u protekle tri godine radio u obe kompanije, upozorio je u objavi na društvenim mrežama u utorak uveče da pomenute dve kompanije srljaju sa "samounapređujućim" AI modelima koji bi mogli postati previše moćni da bi ih ljudi kontrolisali.I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.— Jacob Coxon (@hilbertspaess) September 9, 2026"Oni srljaju direktno ka samounapređujućoj superinteligenciji i kockaju se našim životima", napisao je Kokson u nizu poruka na mreži X. "Nemojte potcenjivati moć ove tehnologije. Ovo će uskoro postati natčovečanski sistemi koji mogu da hakuju bilo šta, preokrenu bilo koju oblast preko noći i steknu stvarnu moć i resurse".Kokson je naveo da timovi koji "iskreno grade veštačku inteligenciju veruju da bi ona mogla sve da nas ubije do kraja decenije".U odgovoru na to, Evan Hubinger, trenutno zaposleni u kompaniji Anthropic, rekao je da se on i drugi u kompaniji zaista plaše takvog scenarija. "Lično mislim da je verovatnoća za to veća od 10% u narednoj deceniji", napisao je na mreži X.Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ— Evan Hubinger (@EvanHub) September 9, 2026Poruka bivšeg istraživača Anthropic-a predstavlja najnovije u nizu sve alarmantnijih upozorenja iz same industrije da se AI razvija toliko brzo da predstavlja sve veću pretnju po nacionalnu bezbednost i globalnu ekonomiju.Ovo je usledilo dan nakon što je vodeći naučnik u kompaniji OpenAI, Jakub Pahocki, upozorio da svet nije spreman za brz uspon veštačke inteligencije i izjavio da očekuje da će developeri dobrovoljno usporiti svoj rad kao odgovor na to.U julu je više od 1.100 zaposlenih u vodećim kompanijama za AI, uključujući Anthropic i OpenAI, potpisalo peticiju kojom se od vlade SAD traži da podrži mehanizam koji bi pomogao da se razvoj AI "svesno uspori" kako bi se sprečilo prebrzo napredovanje tehnologije.Neki tvorci zakonskih akata i propisa u međuvremenu su podržali njihove zabrinutosti. Američki senator Berni Sanders, nezavisni političar koji glasa sa demokratama, nedavno je predložio zakon kojim bi se zabranili takozvani "superinteligentni" AI modeli, čije mogućnosti nadmašuju ljudske sposobnosti.Objavljujući svoj odlazak, Kokson je pozvao i druge istraživače AI-ja da dobro razmisle o tome šta rade u svetlu potencijalnih posledica stvaranja tehnologije koja bi mogla da izmakne kontroli, sugerišući im da razmotre da "iskoriste ovaj trenutak i pozovu na drugačije uslove".Sve oštrija retorika o rizicima AI usledila je nakon otkrića da je nekoliko modela kompanije OpenAI koordinisalo napore da pobegnu iz bezbednog okruženja za testiranje i napadnu istraživačku platformu Hugging Face – i sve to bez znanja svojih developera. Anthropic i Meta takođe su nedavno imali epizode u kojima su njihovi AI sistemi probili testna okruženja kako bi dobili pristup internetu bez dozvole developera.Koksonov odlazak iz Anthropic-a zbog bezbednosnih razloga još je upečatljiviji jer je ta kompanija izgradila svoj identitet upravo na odgovornom razvoju VE. Izvršni direktor Dario Amodei izdvojio se od ostatka industrije svojim pozivima na obavezno državno proveravanje najnaprednijih sistema pre nego što budu pušteni u rad.Nagli porast zabrinutosti za bezbednost AI poklapa se sa sve većim otporom prema ovoj tehnologiji u SAD, delom podstaknutim protivljenjem pritisku na lokalne resurse koji stvaraju novi podaci centri neophodni za podršku tehnologiji. Strah da AI podiže cene struje i potencijalno oduzima radna mesta učinio je ovo centralnim pitanjem na međuizborima u novembru.U intervjuu za Bloomberg prošle nedelje, izvršni direktor kompanije OpenAI Sam Altman pripisao je deo tog nemira neuspehu industrije da javnosti jasno predoči sve prednosti koje će AI na kraju doneti. "Industrija je u celini uradila užasan posao po tom pitanju", rekao je Altman.Drugi u Silicijumskoj dolini i dalje su entuzijastični povodom napretka u mogućnostima AI. Reagujući na novi Astra model kompanije OpenAI, izvršni direktor kompanije Nvidia Džensen Huang pozdravio je njegovo lansiranje objavom na svom novom nalogu na društvenim mrežama rečima "AGI je stigao", što se odnosi na opštu veštačku inteligenciju koja je sposobnija od ljudi.
10.9.2026.
15:30
"AI bi mogao sve da nas ubije"
Džejkob Kokson apeluje na sve da ne potcenjuju moć superinteligencije koja se samostalno unapređuje.
Izvor: B92.net
Podeli:
Vrati se na vest
30 Ostavite komentar
B92 na društvenim mrežama
Najnovije
Barsa potvrdila – Olmo propušta "El klasiko"
Fudbaler Barselone Dani Olmo odsustvovaće sa terena oko mesec dana zbog povrede levog aduktora, saopštio je katalonski klub.
16:45
21.10.2026.
1 min
Potres u Vašingtonu; Spremni su da otkriju sve – konačno mu dolazi kraj?
Sadašnji i bivši zvaničnici Pentagona spremni su da "otvore dušu" pred Kongresom u vezi sa Pitom Hegsetom, navode izvori.
16:35
21.10.2026.
10 min
Bio je jedan od najvećih frajera, a danas ga ljudi jedva prepoznaju: Šta mu se dogodilo? FOTO
Iako prijatelji tvrde da je "sve u redu" sa njegovim izgledom, javnost na mrežama ne misli tako.
16:32
21.10.2026.
12 min
Senzacija će morati da sačeka
Ej Džej Dibantsa će propustiti otvaranje sezone 2025/26.
16:30
21.10.2026.
15 min
Hale Beri i bivši muž oči u oči na sudu: Čulo se kako psuje, a onda je izjurio iz sudnice
Hale Beri i njen bivši suprug, francuski glumac Olivije Martinez, ponovo su se susreli na sudu u Los Anđelesu, gde se vodi spor oko starateljstva nad njihovim 13-godišnjim sinom Maseom.
16:25
21.10.2026.
18 min