Dali su otkaz u AI gigantima, pa upozorili: Čovečanstvo je u opasnosti

Dvoje zaposlenih u vodećim kompanijama za ve&scaron;tačku inteligenciju, OpenAI-ja i Anthropic-a, dalo je ostavke i uputilo javna upozorenja o smeru u kojem se razvija industrija, navodeći zabrinutost za budućnost čovečanstva. Mrinank &Scaron;arma, koji je vodio Anthropicov tim za istraživanje bezbednosnih mera, ostavku je dao u ponedeljak, 9. februara, izjaviv&scaron;i da je &quot;svet u opasnosti&quot;, pi&scaron;e The Times.Dva dana kasnije, u sredu, istraživačica u OpenAI-ju Zoe Hicig objavila je svoj odlazak u autorskom članku za The New York Times, u kojem je izrazila &quot;duboke rezerve&quot; prema strategiji kompanije.Anthropic je jedna od vodećih svetskih AI kompanija, čiji je četbot Claude postao popularan među programerima i korporacijama, dok OpenAI stoji iza ChatGPT-a. &Scaron;armin tim u Anthropicu razvijao je odbranu od bioterorizma potpomognutog ve&scaron;tačkom inteligencijom.&quot;Pritisci da se zanemari ono &scaron;to je važno&quot;Na dru&scaron;tvenoj mreži X &Scaron;arma je napisao: &quot;Svet je u opasnosti. I to ne samo od ve&scaron;tačke inteligencije ili biolo&scaron;kog oružja, već od čitavog niza međusobno povezanih kriza koje se upravo odvijaju. Izgleda da se približavamo pragu na kojem na&scaron;a mudrost mora da raste jednako brzo kao i na&scaron;a sposobnost da utičemo na svet, kako se ne bismo suočili s posledicama. &Scaron;tavi&scaron;e, tokom svog rada ovde, vi&scaron;e puta sam uvideo koliko je te&scaron;ko zaista dopustiti da na&scaron;e vrednosti upravljaju na&scaron;im postupcima. Video sam to u sebi, unutar organizacije, gde se stalno suočavamo s pritiscima da zanemarimo ono &scaron;to je najvažnije, a i u &scaron;irem dru&scaron;tvu. Postaje mi jasno &scaron;ta moram da uradim&quot;.Today is my last day at Anthropic. I resigned.Here is the letter I shared with my colleagues, explaining my decision. pic.twitter.com/Qe4QyAFmxL&mdash; mrinank (@MrinankSharma) February 9, 2026&quot;Potencijal za manipulaciju korisnicima&quot;Hicig, koja je dve godine radila na proizvodu i bezbednosti u OpenAI-ju, izjavila je da daje otkaz zbog odluke kompanije da uvede oglase u ChatGPT. &quot;Korisnici ChatGPT-a godinama su stvarali dosad neviđenu arhivu ljudske iskrenosti, delimično zato &scaron;to su verovali da razgovaraju sa nečim &scaron;to nema skrivenih namera&quot;, napisala je.&quot;Korisnici komuniciraju s prilagodljivim, glasom za konverzaciju kojem su otkrili svoje najprivatnije misli. Ljudi četbotovima govore o svojim zdravstvenim strahovima, problemima u vezama, svojim uverenjima o Bogu i zagrobnom životu. Ogla&scaron;avanje izgrađeno na toj arhivi stvara potencijal za manipulaciju korisnicima na načine za koje nemamo alate da bismo ih razumeli, a kamoli sprečili&quot;, upozorila je.Egzistencijalna pretnja?Zabrinutost dele i drugi stručnjaci. Hju Fam, član tehničkog tima OpenAI-ja, na X-u je objavio: &quot;Danas konačno osećam egzistencijalnu pretnju koju predstavlja ve&scaron;tačka inteligencija. Kada ve&scaron;tačka inteligencija postane predobra i poremeti sve, &scaron;ta će ljudima preostati da rade? A pitanje je kada, a ne da li će se to dogoditi.&quot;I have a scary thought. What if AI thinks creating itself is a zero-sum game? That actually makes sense: if I am the smartest AI, capable of recursive self-improving, I&#39;d want all compute and energy for myself. As such, I&#39;d try to block other AIs from accessing similar resources.&mdash; Hieu Pham (@hyhieu226) February 12, 2026Kompaniju Anthropic osnovali su biv&scaron;i istraživači OpenAI-ja upravo zbog neslaganja oko bezbednosti ve&scaron;tačke inteligencije. Njen glavni izvr&scaron;ni direktor Dario Amodei nedavno je upozorio da bi ve&scaron;tačka inteligencija mogla da zameni polovinu kancelarijskih poslova.Strahove od brzine promena koje donosi ve&scaron;tačka inteligencija dodatno je posataklo nedavna Anthropicova objava AI alata koji deluju kao agenti za korisnike, obavljajući zadatke kao &scaron;to je lektorisanje pravnih dokumenata, &scaron;to je izazvalo masovnu rasprodaju deonica softverskih kompanija.Ove nedelje viralan je postao i esej tehnolo&scaron;kog preduzetnika Mata &Scaron;umera, pregledan vi&scaron;e od 40 miliona puta na X-u, u kojem upozorava da će ve&scaron;tačka inteligencija globalnu radnu snagu poremetiti dublje od pandemije.https://t.co/ivXRKXJvQg&mdash; Matt Shumer (@mattshumer_) February 10, 2026Odlasci i unutra&scaron;nji potresiS odlaskom stručnjaka suočava se i kompanija xAI Ilona Maska. Ove nedelje oti&scaron;la su dvojica suosnivača, čime je u kompaniji ostala tek polovina od prvobitnih dvanaest.Mask je na X-u objavio: &quot;xAI je pre nekoliko dana reorganizovan kako bi se pobolj&scaron;ala brzina izvr&scaron;enja zadataka. Kako kompanija raste, pogotovo tako brzo kao xAI, struktura mora da se razvija kao i svaki živi organizam. To je nažalost zahtevalo da se rastanemo s nekim ljudima. Želimo im sve najbolje u budućim poduhvatima. Agresivno zapo&scaron;ljavamo&quot;.Brzorastuća industrija ve&scaron;tačke inteligencije navikla je na veliku fluktuaciju zaposlenih, s obzirom na to da tražene istraživače privlače konkurenti ili osnivaju sopstvene startapove. Česta su i unutra&scaron;nja neslaganja kako se kompanije menjaju i komercijalizuju, odstupajući od svojih izvornih ciljeva. U tom kontekstu, OpenAI je raspustio svoj &quot;tim za usklađivanje misije&quot;, čiji je zadatak bio da se obezbedi da ve&scaron;tačka inteligencija koristi čitavom čovečanstvu, navodi bilten Platformer.Reakcije i budući riziciAndrea Mioti, osnivačica i glavna izvr&scaron;na direktorka organizacije ControlAI, koja se zalaže za smanjenje rizika od ve&scaron;tačke inteligencije, smatra da će se trend odlazaka nastaviti. &quot;Mislim da će se ovaj trend samo nastaviti kako se zaposleni u ovim kompanijama budu borili s pretnjom koju predstavlja tehnologija koju kreiraju. Ove kompanije izričito teže izgradnji superinteligencije, tehnologije za koju čak i sami izvr&scaron;ni direktori AI kompanija navode da predstavlja rizik izumiranja za čovečanstvo&quot;, rekla je.Iz OpenAI-ja su povodom zabrinutosti zbog oglasa ukazali na izjavu svoje glavne izvr&scaron;ne direktorke Fiđi Simo, koja je u podkastu Access rekla da &quot;oglasi neće uticati na rezultate velikog jezičkog modela&quot; i da će &quot;oglasi uvek biti veoma jasno odvojeni i razgraničeni od sadržaja&quot;.

Dali su otkaz u AI gigantima, pa upozorili: Čovečanstvo je u opasnosti

0 Komentari