Moćan je, ali i previše opasan: Zašto niko ne sme da koristi ovaj AI?

Anthropic je objavio prvi izveštaj o projektu Glasswing, inicijativi za sajber-bezbednost pokrenutoj u aprilu, čiji je cilj sprečavanje sajber-napada veštačkom inteligencijom pomoću – pa, veštačke inteligencije. Ovu inicijativu pokreće Claude Mythos Preview, još uvek neobjavljeni model ove kompanije. Anthropic navodi da je ovaj model već pomogao njihovim partnerima da pronađu više od deset hiljada ranjivosti (propusta) ukupno, samo mesec dana nakon pokretanja projekta Glasswing. Pored toga, ističe se da je većina partnera pomoću ovog modela pojedinačno pronašla na stotine kritičnih ili veoma ozbiljnih propusta u svom softveru.

Iz kompanije su saopštili da se stopa pronalaženja bagova kod njihovih partnera povećala više od deset puta. Cloudflare je pronašao 2.000 bagova, od kojih je 400 visoke ili kritične ozbiljnosti. Mozilla je prethodno izvestila da je pronašla i ispravila 271 propust u Firefoxu, što je 10 puta više nego što je pronađeno u starijoj verziji ovog pretraživača uz korišćenje drugog Claude modela.

Kompanija je u svom izveštaju objasnila da još uvek nije pustila Mythos Preview u javnost jer nijedna kompanija (uključujući i njih same) nije razvila dovoljno jake zaštitne mehanizme koji bi sprečili zloupotrebu modela ove klase. Ipak, planiraju da u budućnosti lansiraju modele iz "klase Mythos" kada takve mere zaštite postanu dostupne. Za sada planiraju saradnju sa partnerima poput vlade SAD i drugih država kako bi proširili dostupnost projekta Glasswing. To ukazuje na to da je kompanija na putu da popravi svoje odnose sa vladom SAD. Anthropic trenutno sarađuje sa nekoliko velikih partnera, uključujući Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA i Palo Alto Networks, pored onih koji su već pomenuti.

Kako se navodi, Anthropic je na pragu da ostvari profit po prvi put od svog osnivanja 2021. godine. Prema nedavnom izveštaju lista The Wall Street Journal, kompanija je na putu da zabeleži prihod od 10,9 milijardi dolara, uz operativni profit od 559 miliona dolara za tromesečje koje se završava u junu. Međutim, kompanija ne očekuje da će ostati profitabilna u narednim kvartalima, jer planira da uloži više novca u računarske resurse i druge troškove.