Project Glasswing: Anthropic okuplja tehnološke gigante u borbi protiv AI sajber napada

Svedoci smo brojnih mračnih predviđanja o potencijalnim negativnim uticajima veštačke inteligencije, naročito onih koji se fokusiraju na stvaranje novih problema u sajber bezbednosti. Kompanija Anthropic najavila je novu inicijativu pod nazivom Project Glasswing kako bi odgovorila na ovu zabrinutost, radeći na tome da "osigura najkritičniji softver na svetu" od napada podržanih veštačkom inteligencijom. 

U ovom poduhvatu partneri Anthropica su Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux fondacija, Microsoft, NVIDIA i Palo Alto Networks.

Učesnici će koristiti Claude Mythos Preview, još uvek neobjavljeni model opšte namene kompanije Anthropic, kako bi unapredili sopstvene bezbednosne projekte. Anthropic tvrdi da je ovaj model već otkrio na hiljade ranjivosti koje mogu da se zloupotrebe, uključujući i one u svakom značajnijem operativnom sistemu i veb pregledaču. Iz kompanije navode da žele da počnu da koriste svoje alate defanzivno, kako bi sprečili zlonamernu upotrebu veštačke inteligencije koja bi mogla da ostavi teške posledice po ekonomiju i bezbednost.

• Anthropic u centru skandala: Obrisano sve
• Da li su ljudi sve manje potrebni? Novi AI asistent koristi računar umesto vas
• Haos u vrhu AI industrije: Anthropic udario na Pentagon, a razlog je OpenAI

Anthropic je postao jedna od najistaknutijih AI kompanija koje ukazuju na etičke probleme u ovoj oblasti. Ranije ove godine, kompanija je odbila da ukloni bezbednosne barijere sa svojih servisa koje koristi Pentagon, što je navelo Ministarstvo odbrane da, u znak odmazde, Anthropic označi kao "rizik za lanac snabdevanja". 

Pokretanje projekta Glasswing mogao bi biti koristan početak ka boljoj sajber bezbednosti u eri veštačke inteligencije, ali određena šteta je već načinjena. Navodno je upravo njihov model Claude koristio jedan haker u napadima na više vladinih agencija u Meksiku tokom februara.