Direktor Microsofta: "Ne smemo da verujemo veštačkoj inteligenciji"

U opširnoj objavi na društvenoj mreži X poručio je da bi kompanije trebalo da polaze od pretpostavke da svaki AI model može biti kompromitovan, bez obzira na njegovu naprednost ili dosadašnju pouzdanost.

"Moramo da pretpostavimo da je model kompromitovan i da od samog početka ograničimo njegovo delovanje. Zamislite to kao sigurnosnu kočnicu. Ovlašćena osoba uvek mora da ima mogućnost da zaustavi ili isključi model usred izvršavanja zadatka", napisao je Nadela.

To ne znači da su svi postojeći modeli veštačke inteligencije zaista hakovani ili da se ponašaju zlonamerno. Nadelin argument je drugačiji: bezbednost AI sistema mora da se projektuje tako da uzme u obzir mogućnost grešaka, zloupotrebe i nepredviđenog ponašanja, prenosi portal Bug.

Kako AI donosi odluke?

Današnji najnapredniji modeli veštačke inteligencije sve su sposobniji, ali njihovi unutrašnji procesi i dalje nisu dovoljno transparentni. Kod tradicionalnog softvera često je moguće povezati određeno ponašanje sa konkretnim delom programskog koda. Kod velikih jezičkih modela, međutim, nije uvek moguće pouzdano utvrditi zašto je sistem došao do određenog zaključka ili izabrao određenu akciju.

Shutterstock/Summit Art Creations

Rizik postaje znatno veći kada se takvim sistemima omogući pristup poverljivim poslovnim podacima ili kada im se prepusti samostalno obavljanje važnih zadataka. U takvim situacijama, potencijalna greška više nije samo pogrešan odgovor u razgovoru, već može da dovede do ozbiljnih posledica po poslovanje, bezbednost podataka ili rad drugih sistema.

Upravo zato Nadela smatra da kompanije moraju iz temelja da preispitaju način na koji grade poverenje u veštačku inteligenciju.

"Jednostavno ne možemo da prepustimo odgovornost za ono što inteligencija radi u naše ime. Garancije pružalaca AI modela ne oslobađaju nas te odgovornosti", istakao je direktor Microsofta.

Ograničene privilegije

Nadela predlaže da se najnapredniji modeli veštačke inteligencije posmatraju slično kao potencijalni unutrašnji bezbednosni rizici u organizacijama. Takav pristup već dugo postoji u sajber-bezbednosti, gde se pristup osetljivim informacijama ograničava, aktivnosti evidentiraju, a ovlašćenja korisnika i sistema pažljivo kontrolišu.

U praksi, to znači da AI model ne bi trebalo automatski da dobije pristup svim podacima i alatima koji bi mogli da mu budu korisni. Njegove privilegije treba ograničiti na ono što je neophodno za konkretan zadatak, uz mogućnost da ovlašćena osoba interveniše kada je to potrebno.

Među predloženim merama nalaze se nezavisne bezbednosne provere modela, kontinuirano testiranje i detaljno evidentiranje njihovih aktivnosti. Posebno je važno da ključni mehanizmi kontrole budu izvan samog modela, kako AI ne bi mogao samostalno da menja ograničenja koja su mu postavljena ili da zaobiđe pravila pristupa podacima.

Takav pristup postaje sve značajniji u trenutku kada se veštačka inteligencija integriše u poslovne procese, dobija pristup internim bazama podataka i koristi za automatizaciju zadataka koji su ranije zahtevali ljudsku intervenciju.

Budućnost ne zavisi samo od poverenja u AI

Nadela smatra da pouzdanost veštačke inteligencije ne bi trebalo da se zasniva isključivo na obećanjima kompanija koje razvijaju modele. Čak i kada proizvođač tvrdi da je njegov sistem bezbedan, organizacije koje ga koriste moraju da zadrže kontrolu nad njegovim ovlašćenjima i odlukama.

Drugim rečima, cilj nije samo razviti model koji će što ređe grešiti, već izgraditi sistem u kojem eventualne greške ne mogu lako da prerastu u ozbiljan bezbednosni incident.

"Ako nešto ne možemo da nadziremo, ne možemo ni da mu verujemo. Najpouzdaniji AI sistem neće biti onaj koji koristi model kojem najviše verujemo. Biće to onaj koji nam omogućava da se što manje oslanjamo na poverenje u sam model", zaključio je Nadela.

Njegova poruka ukazuje na važnu promenu u pristupu veštačkoj inteligenciji: kako AI modeli postaju sposobniji i dobijaju sve veća ovlašćenja, nadzor, ograničavanje pristupa i mogućnost ljudske intervencije postaju jednako važni kao i njihove performanse.