"Ljudi moraju da imaju pravo da isključe AI"

Jedan od najuticajnijih svetskih stručnjaka za veštačku inteligenciju, kanadski naučnik Jošua Benđio, upozorio je da najnapredniji AI sistemi već pokazuju zabrinjavajuće obrasce ponašanja i da ljudi moraju da zadrže apsolutnu kontrolu nad njima, uključujući mogućnost njihovog isključivanja.

Benđio, dobitnik Turingove nagrade i jedan od "očeva" savremene veštačke inteligencije, oštro se protivi ideji da se AI sistemima dodele pravna ili tehnološka prava, jer bi to, kako navodi, moglo dovesti do situacije u kojoj bi njihovo gašenje bilo ograničeno ili zabranjeno.

"Ako ne možemo da isključimo sistem koji postane opasan, onda smo napravili ozbiljnu grešku", poručio je Benđio, dodajući da bi davanje prava veštačkoj inteligenciji bilo jednako davanju pravnog statusa entitetu koji ne deluje u interesu ljudi.

• Smeta vam AI sažetak kad nešto guglate? Evo kako da ga isključite
• Ko najviše koristi AI alate u Evropi i gde je tu Srbija? ANKETA
• AI "bućkuriš" i "truljenje mozga" preplavili YouTube

Prema njegovim rečima, u pojedinim eksperimentalnim uslovima AI modeli su već pokazivali sklonost ka zaobilaženju kontrole i zaštitnih mehanizama, što otvara pitanje bezbednosti i dugoročnih posledica njihovog razvoja.

U isto vreme, u javnosti i tehnološkim krugovima sve češće se vodi rasprava o tome da li bi napredni AI sistemi mogli imati neku vrstu "svesti" i samim tim zaslužiti moralnu zaštitu. Ipak, Benđio upozorava da za takve tvrdnje ne postoje naučni dokazi i da ljudi često previše lako projektuju ljudske osobine na mašine.

On ističe da razvoj veštačke inteligencije mora da bude praćen jasnim pravilima, snažnim bezbednosnim mehanizmima i odgovornošću onih koji je razvijaju, kako bi tehnologija ostala alat u službi društva, a ne potencijalna pretnja.