Šef Microsofta upozorava: "Superinteligencija mora pod ljudsku kontrolu!"

Izvršni direktor kompanije Microsoft, Satja Nadela, postao je najnovija javna ličnost koja se uključila u opštu raspravu o ideji "usporavanja razvoja veštačke inteligencije", izjavivši da veruje da svaka težnja ka superinteligenciji mora biti zasnovana na pomaganju čovečanstvu i pod ljudskom kontrolom, jer u suprotnom nije vredna truda.

Dok svi govore o usporavanju brzine razvoja najnaprednijih modela, Nadela je rekao da moramo ubrzati širenje i prednosti veštačke inteligencije kako bi one bile dostupne širom zemalja, zajednica i kompanija – istakavši da je za to potrebno okruženje u kojem i zatvoreni i modeli otvorenog koda (open-source) mogu napredovati.

Nadovezujući se na ono što su drugi već rekli, Nadela je izjavio da Microsoft planira da lansira Kodeks ponašanja na kojem se zasnivaju njegovi interni MAI modeli. Nakon objavljivanja, kodeks će biti stavljen na javnu raspravu, kako Microsoft ne bi bio jedina entitet koji određuje smer razvoja internih modela. Nadela je naglasio da veruje u širok pristup i mogućnost izbora u svim slojevima tehnološkog steka veštačke inteligencije, kao i u korporativnu kontrolu nad algoritmima učenja i modelima.

Za preduzeća koja počinju da koriste veštačku inteligenciju, Nadela kaže da je od ključne važnosti da imaju punu kontrolu nad svojim jedinstvenim i nepisanim znanjem. Nastavio je rečima da bi svaka organizacija trebalo da bude u mogućnosti da izgradi sopstveni kontinuirani krug učenja, bez potrebe da se oslanja na samo jednog dobavljača modela, te da ugradi sopstveno znanje u modele i težinske vrednosti koje sama kontroliše.

Sve u svemu, Nadela navodi da Microsoft pozdravlja istraživanje, fokus i promišljen tempo koji su potrebni da bi se usklađivanje postavilo kao primarni cilj dizajna. Takođe je rekao da se Microsoftu dopada ideja o ugrađenim evaluatorima.

Još jedna ključna tačka za Nadelu i Microsoft jeste to što se ovaj proces usklađivanja veštačke inteligencije ne može prepustiti nekolicini entiteta. On mora imati široku zastupljenost u svim ekosistemima, državama i oblastima, uključujući i akademsku zajednicu.