Gigant upozorava: AI će sam praviti svoje naslednike, treba nam svetska pauza

Iako ova faza jo&scaron; nije dostignuta, kompanija smatra da bi mogla stići ranije nego &scaron;to su institucije spremne da je kontroli&scaron;u. U svom blogu, kompanija navodi da bi takav nivo AI mogao doneti ogromne koristi, posebno u nauci i medicini, gde bi sistemi koji se sami unapređuju mogli ubrzati istraživanja i otkrića na način koji danas nije moguć.Međutim, isti scenario nosi i ozbiljne rizike. Anthropic upozorava da bi gubitak kontrole nad takvim sistemima postao realna mogućnost, jer bi AI potencijalno mogao da nastavi da se unapređuje bez ljudskog nadzora.Phonlamai Photo / Shutterstock.comKao moguće re&scaron;enje, kompanija predlaže globalno usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema. Cilj bi bio da regulacija, bezbednosna istraživanja i dru&scaron;tvene institucije stignu tehnolo&scaron;ki napredak, prenosi Engadget.Ovaj predlog dolazi iz kompanije koja je danas jedan od ključnih igrača u AI industriji. Kritičari, uključujući analitičare WSJ, tvrde da bi ovakva upozorenja mogla imati i marketin&scaron;ku pozadinu. Po toj interpretaciji, Anthropic bi mogao da se pozicionira kao &quot;odgovorniji&quot; igrač u poređenju sa konkurencijom ili da podigne interesovanje za sopstvene proizvode.Abdu ezzurghi/ShutterstockPosebne sumnje izazvao je i ograničeni pristup njihovom AI bezbednosnom modelu Mythos, koji je navodno pu&scaron;ten samo odabranim partnerima zbog potencijalne zloupotrebe, dok skeptici smatraju da je reč o poslovnoj strategiji i kontroli trži&scaron;ta.Ipak, kompanija tvrdi da je predlog o usporavanju zasnovan na radu njihovog istraživačkog ogranka Anthropic Institute, koji je formiran da proučava dugoročne rizike napredne AI tehnologije. Da bi eventualni globalni prekid razvoja bio moguć, morale bi da učestvuju sve vodeće AI laboratorije u svetu, uz mehanizme provere da niko ne nastavlja razvoj u tajnosti.metamorworks / Shutterstock.comAnthropic čak navodi da slični međunarodni sporazumi postoje u drugim oblastima, poput nuklearnih tehnologija, iako priznaje da bi uspostavljanje takvog sistema u AI industriji bilo znatno teže i vremenski osetljivije.

Gigant upozorava: AI će sam praviti svoje naslednike, treba nam svetska pauza

0 Komentari