"Ne zabranjujte otvoreni kod, ali pazite se Kine": Šef Anthropica uzdrmao AI scenu

Osnivač i generalni direktor kompanije Anthropic, Dario Amodei, odgovorio je na šuškanja u industriji da njegova kompanija na neki način podržava napore američke vlade da zabrani kineske "open-weight" modele, ili eventualno modele otvorenog koda uopšte.

"Svako ko je čitao moje ranije tekstove trebalo bi da zna da takve zabrane ne smatram korisnom merom, ali dozvolite mi da to jasno kažem kako ne bi bilo sumnje: Anthropic se nikada nije zalagao za zabranu 'open-weight' modela", napisao je on, uz sopstveno isticanje.

Njegov odgovor usledio je nakon što je osnivač i generalni direktor kompanije Nvidia, Džensen Huang, na platformi X (u svojoj prvoj objavi na toj platformi) u petak podelio otvoreno pismo u kojem Nvidia i dugačka lista drugih AI kompanija – uključujući Hugging Face, Meta, Microsoft, Mistral i Nvidiju – pozivaju kreatore politika da ne nameću široke "prenagljene restrikcije" na AI modele otvorenog koda.

Iako se u tom pismu Kina ne pominje specifično, debata u industriji se usmerila na optužbe da kineske AI laboratorije napreduju u sposobnostima često tako što kradu intelektualnu svojinu od svojih američkih konkurenta. Jedna od metoda je destilacija, gde AI bombarduje drugi model upitima kako bi naučio kako on funkcioniše.

Amodei je u blog objavi objavljenoj u ponedeljak naveo da modele sa otvorenim težinama svrstava u drugačiju kategoriju od pretnje koju predstavlja Kina. "Modeli otvorenog koda koji nemaju opasne mogućnosti predstavljaju javno dobro: ne koštaju ništa osim računarske snage potrebne za njihovo pokretanje i pružaju vrednost preduzećima, programerima i istraživačima".

Amodei je u svojoj objavi rekao da već dugo gaji strahove od veštačke inteligencije, ali da kompanije koje koriste modele otvorenog koda, pa čak i one iz Kine, nisu među njima.

Njegov strah je da će "autoritativne vlade" napraviti modele koji su moćniji od onih u SAD kako bi ostvarile "trajnu vojne nadmoć" i/ili koristile AI za ugnjetavanje sopstvenog naroda. Rekao je da Komunistička partija Kine (KPK) nije jedina autoritarna vlada koja ga brine, ali jeste "najsposobnija".

Amodei je takođe rekao da se plaši da će AI omogućiti "biološke napade", a ne samo kibernetičke. Prema njegovom mišljenju, modeli otvorenog koda su opasniji u takvim scenarijima jer je na njih teško primeniti zaštitne mehanizme ili pratiti njihovu upotrebu. Takođe je napomenuo, pozivajući se na izveštaj Britanskog instituta za bezbednost veštačke inteligencije (UK AI Security Institute), da kada se otvorene težine jednom objave, više se ne mogu povući.

Ovo je u suprotnosti sa onim što tvrde zagovornici otvorenog koda: da pristup moćnim otvorenim modelima koje ne kontroliše jedan entitet pomaže odbrambenim stranama da se zaštite.

Amodei je naveo akcije za koje veruje da bi osujetile Kinu, uključujući ograničavanje njenog pristupa moćnim čipovima (što je dugogodišnja politika SAD) i pozivanje na zvanični obračun sa destilacijom. SAD su zapretile sankcijama Kini ako se utvrdi da je bilo krađe intelektualne svojine koja uključuje američke modele.

Zanimljivo je da je Amodei rekao i da podržava sve veće napore, od kojih neke predvode SAD, za stvaranje organizacije za testiranje bezbednosti modela, posebno ako bi ceo svet, uključujući Kinu, pristao da joj se podvrgne.

"Mislim da je ova ideja zapravo blizu konsenzusa: ohrabren sam i time što se Trampova administracija poslednjih meseci kretala u ovom smeru, kao i nedavnim predlozima iz industrije koji bi primenili takva testiranja na najsposobnije modele bez obzira na njihovu zemlju porekla ili na to da li su otvoreni ili zatvoreni (dok bi manje sposobni modeli, poput onih iz startapa i akademske zajednice, bili potpuno izuzeti)", napisao je Amodei.

"Imajte na umu da bi, da bi bilo efikasno, testiranje moralo da bude globalno, što znači da bi čak i KPK morala da pristane", dodao je. "Mislim da bi ovo zapravo moglo biti moguće... ograničena saradnja na sprečavanju biološkog oružja zasnovanog na veštačkoj inteligenciji je moguća jer je to i u interesu Kine".