Srbija uskoro dobija prvi zakon o veštačkoj inteligenciji

Budući propis klasifikovaće modele prema nivou rizika, zabraniti pojedine oblike upotrebe, ali i obezbediti da konačnu odluku uvek donosi čovek.

Državna sekretarka u Ministarstvu nauke, tehnološkog razvoja i inovacija Marija Gnjatović naglašava da zakon neće regulisati samu tehnologiju, već rizike koje njena primena može da proizvede.

"Ovakav zakon je izuzetno potreban zato što mi sada zapravo veštačku inteligenciju koristimo u svim sektorima. Veštačka inteligencija utiče na način kako pripremamo, recimo, emisije, na način kako radimo, kako istražujemo, kako donosimo određene odluke koje mogu biti i visokog i niskog rizika. I upravo je taj rizik osnovna tema ovog zakona", rekla je Gnjatovićeva.

Poručuje da "ovim zakonom ne uređujemo samu tehnologiju, uređujemo nivo rizika koji primena veštačke inteligencije može da stvori".

Objašnjava da će sistemi biti razvrstani prema stepenu rizika, pa će, na primer, modeli koji pomažu lekarima u postavljanju dijagnoze biti svrstani u visokorizične, dok će preporuke filmova ili slični servisi biti tretirani kao niskorizični.

"Ovaj zakon će na neki način definisati i klasifikovati sva rešenja koja se primenjuju na tržištu, s tim da postoji potreba da se visokorizični sistemi vode u određenom registru koji će se formirati, dok niskorizični sistemi neće morati da budu upisani u registar", navela je Gnjatovićeva.

Čovek ostaje poslednja instanca

Jedan od ključnih principa budućeg zakona jeste da konačnu odluku uvek donosi čovek.

"Veoma je važno da procesi budu transparentni i još važno da odluka uvek zavisi od čoveka, a ne od softvera ili mašine", istakla je Gnjatovićeva.

Savetnik za propise i inspekcije u NALED-u Milan Stefanović dodaje da je zakon usklađen sa evropskim pristupom koji se zasniva na proceni rizika.

"Zakon podrazumeva u skladu sa evropskim rešenjima da postoji ljudski nadzor i odluka koju donosi čovek. Koncipiran je tako da se veštačka inteligencija posmatra kao proizvod. Modeli će biti klasifikovani u četiri kategorije rizika – zabranjeni, visok, srednji i minimalni, a mere nadzora i kontrole biće srazmerne nivou rizika", objasnio je Stefanović.

Društveno rangiranje i predviđanje krivičnih dela biće zabranjeni

Prema njegovim rečima, zakon će izričito zabraniti pojedine primene veštačke inteligencije.

"Jedan od primera je društveno rangiranje građana. Ne možemo putem veštačke inteligencije ljudima dodeljivati ocene da li su bolji ili lošiji ljudi", naveo je Stefanović.

Kao zabranjene primere naveo je i sisteme koji bi predviđali da li će neko izvršiti krivično delo, kao i prepoznavanje emocija na radnom mestu.

"Prepoznavanje emocija je dozvoljeno u nekim psihoterapeutskim svrhama, istraživanjima  psihološkim. Ono je tu visokorizično, a ovamo je zabranjeno", dodaje Stefanović.

Sa druge strane, sistemi koji se koriste za analizu radnih biografija prilikom zapošljavanja ili procenu kreditne sposobnosti biće svrstani u visokorizične i zahtevaće posebna pravila.

"Takvi sistemi neposredno utiču na prava i slobode građana i zato će za njih važiti stroži režim kontrole", naglasio je Stefanović.

Srbija među prvima uvodi nacionalni pravni okvir

Gnjatovićeva ističe da je Srbija među prvim državama koje su prepoznale značaj veštačke inteligencije.

"Prednjačili smo u regionu i usvajanjem prve strategije za razvoj veštačke inteligencije, ulaganjem u infrastrukturu i podrškom startap zajednici. Bićemo među prvim zemljama koje će imati nacionalni pravni okvir za ovu oblast", rekla je Gnjatovićeva.

Navodi da će zakon u velikoj meri biti usklađen sa aktom Evropske unije o veštačkoj inteligenciji, ali da je podjednako važno da ne uspori razvoj domaćeg IT sektora.

"Važno nam je da zaštitimo građane koji koriste različite modele veštačke inteligencije, ali i da zakon ni na koji način ne spreči dalji razvoj sektora informacionih tehnologija i veštačke inteligencije. Siguran zakonodavni okvir pomaže i kompanijama koje žele da posluju u Srbiji i našim firmama koje svoje proizvode plasiraju na evropsko tržište", istakla je državna sekretarka.

Više institucija nadziraće primenu zakona

Govoreći o nadzoru, Stefanović je naveo da će centralnu ulogu imati Ministarstvo nauke, tehnološkog razvoja i inovacija, ali i više drugih institucija.

"Predviđa se osnivanje Agencije za veštačku inteligenciju koja će pratiti primenu i imaće ovlaštenja u nadležnosti da obustavi testiranje ako dobije prijavu incidenta ili ako dobije obaveštenje od strane nadležnog nadzorno-kontrolnog organa. U nadzoru će učestvovati i tržišna inspekcija, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, kao i inspekcija za informacionu bezbednost", rekao je Stefanović.

Gnjatovićeva dodaje da institucionalni model još nije konačno definisan.

"Ovo je horizontalna tema koja obuhvata različite sektore i ministarstva. Upravo zato je komleksno organizovati efikasan sistem nadzora i obezbediti dovoljan broj stručnjaka", zaključila je Gnjatovićeva.