Šefovi AI kompanija upozoravaju na sopstvenu tehnologiju

Kako bi Savetu bezbednosti Ujedinjenih nacija dočarao brzinu razvoja veštačke inteligencije, izvršni direktor kompanije OpenAI, Sem Altman, podsetio je na situaciju od pre samo nekoliko godina.

U to vreme, kako je naveo, modeli veštačke inteligencije bili su tek solidni u rešavanju matematičkih zadataka za osnovnu školu. Već godinu dana kasnije dostigli su nivo srednjoškolaca, prenosi DW.

Prošlog leta, prema Altmanovim rečima, sistem OpenAI dostigao je nivo znanja dovoljan za osvajanje zlatne medalje na jednom od najprestižnijih svetskih matematičkih takmičenja. Danas je, tvrdi on, sposoban i za rešavanje izuzetno složenih matematičkih problema koji su se donedavno smatrali rezervisanim za vrhunske stručnjake.

Razvoj prebrz i potencijalno opasan?

Upravo u tome Altman vidi glavni rizik. "Veštačka inteligencija mogla bi da se razvija toliko brzo da nijedan čovek više ne bi mogao da prati taj razvoj niti da interveniše ako bi to postalo neophodno", upozorava on. Pored toga, prvi čovek OpenAI strahuje i od koncentracije ogromne moći u rukama malog broja kompanija ili država.

Sličan stav zastupa i Dario Amodei, direktor kompanije Anthropic. On upozorava da bi terorističke organizacije jednog dana mogle da koriste veštačku inteligenciju za razvoj biološkog oružja ili drugih opasnih tehnologija. „U slučaju neprimerene upotrebe, veštačka inteligencija mogla bi da postane rizik za čitavo čovečanstvo“, smatra Amodei.

Iskrena zabrinutost ili zaštita sopstvenih interesa?

To što vodeće AI kompanije upozoravaju na opasnosti tehnologije koju same razvijaju, stručnjak iz Silicijumske doline Tom Ford smatra pozitivnim signalom. Međutim, veruje da iza toga postoje i veoma praktični motivi.

Shutterstock/Mijansk786

"Mislim da zaista postoje razlozi za zabrinutost i da su kompanije došle do rezultata koji su ih iznenadili i koje žele transparentno da podele sa javnošću", kaže Ford.

Ali, dodaje, postoji i druga strana priče: "Istovremeno žele da utiču na pravila koja će biti doneta. Ne žele da ih regulativa jednog dana zatekne nespremne ili da se suoče sa pravnim posledicama. Žele da budu deo procesa i da učestvuju u njegovom oblikovanju".

Zahtevi za globalna pravila

Predlozi koje iznose vodeće AI kompanije uglavnom su slični. Amodei, na primer, traži uspostavljanje međunarodnih standarda za procenu rizika od gubitka kontrole nad modelima veštačke inteligencije i njihove moguće zloupotrebe. Osim toga, zalaže se za stvaranje sistema za prijavljivanje incidenata povezanih sa veštačkom inteligencijom koji bi mogli da imaju posledice po globalnu bezbednost.

I OpenAI i Anthropic ističu da su već uveli sopstvene bezbednosne procedure, ali naglašavaju da su spremni da sarađuju sa vladama širom sveta na donošenju strožih propisa. Po potrebi bi, tvrde, bili spremni čak i da uspore razvoj najnaprednijih sistema.

Tramp odbacuje upozorenja

Američki predsednik Donald Tramp zauzima potpuno drugačiji stav. U obraćanju pred Ujedinjenim nacijama jasno je poručio da upozorenja o opasnostima veštačke inteligencije smatra preteranim i zlonamernim. Pritom je najavio da bi tu tehnologiju ubuduće radije nazivao "superinteligencijom".

"Ko god pobedi u trci razvoja veštačke inteligencije, pobeđuje u svemu", rekao je Tramp. "Mi smo trenutno ispred Kine i tako mora da ostane".

Ascannio / Shutterstock.com

Prema njegovom mišljenju, previše stroga regulacija mogla bi da ugrozi američku tehnološku prednost u globalnom nadmetanju sa Pekingom.

Sve veća podrška međunarodnoj kontroli

U većini država-članica UN zahtevi za globalnu regulaciju naišli su na znatno više razumevanja. Početkom nedelje lideri više od dvadeset država, među kojima je i Nemačka, izjasnili su se za stroža međunarodna pravila. Podržana je i ideja osnivanja posebnog regulatornog tela pod okriljem Ujedinjenih nacija koje bi pratilo razvoj najnaprednijih sistema veštačke inteligencije i procenjivalo njihove bezbednosne rizike.

Tako se sve jasnije oblikuju dva suprotstavljena pogleda na budućnost veštačke inteligencije: jedan koji upozorava da su potrebna globalna ograničenja i nadzor, i drugi koji smatra da bi previše pravila moglo da uspori tehnološki napredak i oslabi poziciju SAD u trci sa Kinom.