Kinezi povukli ručnu: Hitno oslabili AI zbog straha od hakerskih napada

Kineska tehnološka kompanija "Munšot AI" (Moonshot AI) saopštila je da je smanjila ofanzivne sajber kapacitete i mogućnosti svog najnovijeg modela veštačke inteligencije (AI) Kimi K3.1 Pro, zbog sve veće zabrinutosti da bi autonomni AI sistemi mogli da olakšaju i ubrzaju hakerske napade.

Kompanija "Munšot", sa sedištem u Pekingu, najavila je ova ograničenja prilikom predstavljanja modela "Kimi K3.1 Pro", koji opisuje kao svoj najsposobniji model sa otvorenim težinama u klasi od 3 biliona parametara, preneo je danas Rojters.

Iz ove kompanije su naveli da su iz korpusa podataka za obuku i okruženja za učenje sa potkrepljenjem, korišćenih za razvoj modela Kimi K3.1, uklonili podatke koji se odnose na sajber domen, dok su zadržali opšte veštine programiranja.

"Cilj nam je da ne objavljujemo modele otvorenih težina koji bi pomerili apsolutnu granicu sajber-ofanzivnih sposobnosti", saopštila je kompanija.

Vlade, tehnološke kompanije i stručnjaci za bezbednost sve su zabrinutiji da bi veštačka inteligencija mogla da učini sofisticirane hakerske napade lakšim i jeftinijim, navodi Rojters.

Modeli koji mogu da pišu kod, upravljaju softverskim alatima i izvršavaju složene zadatke u više koraka, mogu da pomognu korisnicima da otkriju slabosti u programima i automatizuju delove sajber napada.

Kina je prošle nedelje predložila mere kontrole izvoza kojima bi se zabranio izvoz tehnologije za kreiranje i mutaciju zlonamernog softvera uz pomoć veštačke inteligencije, a takođe bi se ograničili alati koji pomoću AI otkrivaju slabosti.

U nacrtu mera, koji je trenutno na javnoj raspravi, navodi se rizik da bi takve mogućnosti mogle da budu iskorišćene protiv kritične infrastrukture, odbrambeno-industrijskih i ključnih državnih sistema, ili za zaobilaženje bezbednosnih zaštita.