Dali su otkaz u AI gigantima, pa upozorili: Čovečanstvo je u opasnosti

Dvoje zaposlenih u vodećim kompanijama za veštačku inteligenciju, OpenAI-ja i Anthropic-a, dalo je ostavke i uputilo javna upozorenja o smeru u kojem se razvija industrija, navodeći zabrinutost za budućnost čovečanstva. 

Mrinank Šarma, koji je vodio Anthropicov tim za istraživanje bezbednosnih mera, ostavku je dao u ponedeljak, 9. februara, izjavivši da je "svet u opasnosti", piše The Times.

Dva dana kasnije, u sredu, istraživačica u OpenAI-ju Zoe Hicig objavila je svoj odlazak u autorskom članku za The New York Times, u kojem je izrazila "duboke rezerve" prema strategiji kompanije.

Anthropic je jedna od vodećih svetskih AI kompanija, čiji je četbot Claude postao popularan među programerima i korporacijama, dok OpenAI stoji iza ChatGPT-a. Šarmin tim u Anthropicu razvijao je odbranu od bioterorizma potpomognutog veštačkom inteligencijom.

"Pritisci da se zanemari ono što je važno"

Na društvenoj mreži X Šarma je napisao: "Svet je u opasnosti. I to ne samo od veštačke inteligencije ili biološkog oružja, već od čitavog niza međusobno povezanih kriza koje se upravo odvijaju. Izgleda da se približavamo pragu na kojem naša mudrost mora da raste jednako brzo kao i naša sposobnost da utičemo na svet, kako se ne bismo suočili s posledicama. Štaviše, tokom svog rada ovde, više puta sam uvideo koliko je teško zaista dopustiti da naše vrednosti upravljaju našim postupcima. Video sam to u sebi, unutar organizacije, gde se stalno suočavamo s pritiscima da zanemarimo ono što je najvažnije, a i u širem društvu. Postaje mi jasno šta moram da uradim".

"Potencijal za manipulaciju korisnicima"

Hicig, koja je dve godine radila na proizvodu i bezbednosti u OpenAI-ju, izjavila je da daje otkaz zbog odluke kompanije da uvede oglase u ChatGPT. "Korisnici ChatGPT-a godinama su stvarali dosad neviđenu arhivu ljudske iskrenosti, delimično zato što su verovali da razgovaraju sa nečim što nema skrivenih namera", napisala je.

"Korisnici komuniciraju s prilagodljivim, glasom za konverzaciju kojem su otkrili svoje najprivatnije misli. Ljudi četbotovima govore o svojim zdravstvenim strahovima, problemima u vezama, svojim uverenjima o Bogu i zagrobnom životu. Oglašavanje izgrađeno na toj arhivi stvara potencijal za manipulaciju korisnicima na načine za koje nemamo alate da bismo ih razumeli, a kamoli sprečili", upozorila je.

Egzistencijalna pretnja?

Zabrinutost dele i drugi stručnjaci. Hju Fam, član tehničkog tima OpenAI-ja, na X-u je objavio: "Danas konačno osećam egzistencijalnu pretnju koju predstavlja veštačka inteligencija. Kada veštačka inteligencija postane predobra i poremeti sve, šta će ljudima preostati da rade? A pitanje je kada, a ne da li će se to dogoditi."

Kompaniju Anthropic osnovali su bivši istraživači OpenAI-ja upravo zbog neslaganja oko bezbednosti veštačke inteligencije. Njen glavni izvršni direktor Dario Amodei nedavno je upozorio da bi veštačka inteligencija mogla da zameni polovinu kancelarijskih poslova.

Strahove od brzine promena koje donosi veštačka inteligencija dodatno je posataklo nedavna Anthropicova objava AI alata koji deluju kao agenti za korisnike, obavljajući zadatke kao što je lektorisanje pravnih dokumenata, što je izazvalo masovnu rasprodaju deonica softverskih kompanija.

Ove nedelje viralan je postao i esej tehnološkog preduzetnika Mata Šumera, pregledan više od 40 miliona puta na X-u, u kojem upozorava da će veštačka inteligencija globalnu radnu snagu poremetiti dublje od pandemije.

Odlasci i unutrašnji potresi

S odlaskom stručnjaka suočava se i kompanija xAI Ilona Maska. Ove nedelje otišla su dvojica suosnivača, čime je u kompaniji ostala tek polovina od prvobitnih dvanaest.

Mask je na X-u objavio: "xAI je pre nekoliko dana reorganizovan kako bi se poboljšala brzina izvršenja zadataka. Kako kompanija raste, pogotovo tako brzo kao xAI, struktura mora da se razvija kao i svaki živi organizam. To je nažalost zahtevalo da se rastanemo s nekim ljudima. Želimo im sve najbolje u budućim poduhvatima. Agresivno zapošljavamo".

Brzorastuća industrija veštačke inteligencije navikla je na veliku fluktuaciju zaposlenih, s obzirom na to da tražene istraživače privlače konkurenti ili osnivaju sopstvene startapove. Česta su i unutrašnja neslaganja kako se kompanije menjaju i komercijalizuju, odstupajući od svojih izvornih ciljeva. U tom kontekstu, OpenAI je raspustio svoj "tim za usklađivanje misije", čiji je zadatak bio da se obezbedi da veštačka inteligencija koristi čitavom čovečanstvu, navodi bilten Platformer.

Reakcije i budući rizici

Andrea Mioti, osnivačica i glavna izvršna direktorka organizacije ControlAI, koja se zalaže za smanjenje rizika od veštačke inteligencije, smatra da će se trend odlazaka nastaviti. "Mislim da će se ovaj trend samo nastaviti kako se zaposleni u ovim kompanijama budu borili s pretnjom koju predstavlja tehnologija koju kreiraju. Ove kompanije izričito teže izgradnji superinteligencije, tehnologije za koju čak i sami izvršni direktori AI kompanija navode da predstavlja rizik izumiranja za čovečanstvo", rekla je.

Iz OpenAI-ja su povodom zabrinutosti zbog oglasa ukazali na izjavu svoje glavne izvršne direktorke Fiđi Simo, koja je u podkastu Access rekla da "oglasi neće uticati na rezultate velikog jezičkog modela" i da će "oglasi uvek biti veoma jasno odvojeni i razgraničeni od sadržaja".