Kina nadzire AI sisteme koji komuniciraju slično ljudima

Kinesko regulatorno telo za sajber prostor uputilo je na javnu raspravu nacrt novih pravila kojima će se pooštriti nadzor nad uslugama veštačke inteligencije (AI) koje oponašaju ljudsko ponašanje i ulaze u emocionalnu interakciju sa korisnicima. 

Prema predloženim propisima, regulacija bi se primenjivala na AI proizvode i servise koji imaju simulirane crte ljudske ličnosti, obrasce razmišljanja i način komunikacije, uključujući tekstualnu, slikovnu, audio i video interakciju. 

Propisani nacrt traži da pružaoci ovakvih usluga upozore korisnike na prekomernu upotrebu i prepoznaju potencijalne znake zavisnosti, te u tim slučajevima reaguju i intervenišu. 

• AI strimerka zapanjila sve: "Želim da budem stvarna" VIDEO
• Zabrinjavajuće: AI modeli odbijaju da se ugase, razlog opasniji nego "preživljavanje"
• "Čudovište je poraženo"

Takođe, predlozi obuhvataju i bezbednosne mere tokom čitavog životnog ciklusa proizvoda, uključujući reviziju algoritama, zaštitu podataka i ličnih informacija. Pružaoci usluga bi morali da prepoznaju emocionalno stanje korisnika i da preduzmu mere ako se ustanove ekstremne emocije ili zavisničko ponašanje. 

Nacrt takođe propisuje granice u domenu sadržaja, pa AI sistemi ne bi smeli da generišu sadržaj koji ugrožava nacionalnu bezbednost, širi glasine, promoviše nasilje ili opscenost. 

Peking ovim potezima želi da pojača bezbednost i etičke standarde u razvoju i upotrebi naprednih AI tehnologija, posebno onih koje emituju ljudske karakteristike i mogu emotivno da utiču na korisnike.