Moćan je, ali i previše opasan: Zašto niko ne sme da koristi ovaj AI?

Anthropic je objavio prvi izve&scaron;taj o projektu Glasswing, inicijativi za sajber-bezbednost pokrenutoj u aprilu, čiji je cilj sprečavanje sajber-napada ve&scaron;tačkom inteligencijom pomoću &ndash; pa, ve&scaron;tačke inteligencije. Ovu inicijativu pokreće Claude Mythos Preview, jo&scaron; uvek neobjavljeni model ove kompanije. Anthropic navodi da je ovaj model već pomogao njihovim partnerima da pronađu vi&scaron;e od deset hiljada ranjivosti (propusta) ukupno, samo mesec dana nakon pokretanja projekta Glasswing. Pored toga, ističe se da je većina partnera pomoću ovog modela pojedinačno prona&scaron;la na stotine kritičnih ili veoma ozbiljnih propusta u svom softveru.Iz kompanije su saop&scaron;tili da se stopa pronalaženja bagova kod njihovih partnera povećala vi&scaron;e od deset puta. Cloudflare je prona&scaron;ao 2.000 bagova, od kojih je 400 visoke ili kritične ozbiljnosti. Mozilla je prethodno izvestila da je prona&scaron;la i ispravila 271 propust u Firefoxu, &scaron;to je 10 puta vi&scaron;e nego &scaron;to je pronađeno u starijoj verziji ovog pretraživača uz kori&scaron;ćenje drugog Claude modela.Nedavno saop&scaron;tenje kompanije Microsoft da će njihove ispravke (zakrpe) softvera neko vreme nastaviti da budu obimnije nego ranije&ldquo; očigledno je posledica bagova koje su otkrili putem modela Mythos Preview. Anthropic je takođe iskoristio Mythos Preview da skenira 1.000 projekata otvorenog koda, tokom proteklih nekoliko meseci i tom prilikom je prona&scaron;ao 6.202 visoko i kritično ozbiljna propusta od ukupno 23.019. Iako kompanija to nije uvrstila u zvanični izve&scaron;taj, jedna firma za istraživanje bezbednosti nedavno je tvrdila da je uspela da probije macOS &ndash; operativni sistem poznat po strogoj bezbednosti &ndash; upravo uz pomoć sposobnosti modela Mythos za pronalaženje bagova.Kompanija je u svom izve&scaron;taju objasnila da jo&scaron; uvek nije pustila Mythos Preview u javnost jer nijedna kompanija (uključujući i njih same) nije razvila dovoljno jake za&scaron;titne mehanizme koji bi sprečili zloupotrebu modela ove klase. Ipak, planiraju da u budućnosti lansiraju modele iz &quot;klase Mythos&quot; kada takve mere za&scaron;tite postanu dostupne. Za sada planiraju saradnju sa partnerima poput vlade SAD i drugih država kako bi pro&scaron;irili dostupnost projekta Glasswing. To ukazuje na to da je kompanija na putu da popravi svoje odnose sa vladom SAD. Anthropic trenutno sarađuje sa nekoliko velikih partnera, uključujući Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA i Palo Alto Networks, pored onih koji su već pomenuti.Kako se navodi, Anthropic je na pragu da ostvari profit po prvi put od svog osnivanja 2021. godine. Prema nedavnom izve&scaron;taju lista The Wall Street Journal, kompanija je na putu da zabeleži prihod od 10,9 milijardi dolara, uz operativni profit od 559 miliona dolara za tromesečje koje se zavr&scaron;ava u junu. Međutim, kompanija ne očekuje da će ostati profitabilna u narednim kvartalima, jer planira da uloži vi&scaron;e novca u računarske resurse i druge tro&scaron;kove.

Moćan je, ali i previše opasan: Zašto niko ne sme da koristi ovaj AI?

0 Komentari