Metin AI model hakovao sistem druge kompanije

Kako se navodi, AI model je zbog "greške nezavisnog partnera za testiranje" dobio pristup internetu, a do incidenta je došlo zbog pogrešne konfiguracije sistema kompanije Irregular koja je sprovela testiranje, i koja je pokrenula istragu o tom slučaju, piše Gardijan.

Meta je u saopštenju navela da je njen model iskoristio bezbednosni propust u usluzi treće strane "na način sličan ranije prijavljenim slučajevima kod drugih kompanija".

Portparol kompanije Irregular rekao je za Rojters da je reč o "potpuno istom problemu u okruženju za testiranje koji je Anthropic već objavio prošle sedmice", ističući da nije bilo "izlaska iz izolovanog okruženja testiranja niti sofisticiranog sajber napada".

Kako je naveo, trenutno nema otvorenih bezbednosnih problema, a kompanija priprema stručni dokument sa preporukama za najbolje prakse u oblasti zaštite i bezbednog sprovođenja sajber testiranja.

Nije izolovan slučaj

Ovaj slučaj nadovezuje se na sve veći broj incidenata u kojima su modeli veštačke inteligencije vodećih tehnoloških kompanija tokom bezbednosnih provera uspevali da naruše sisteme drugih organizacija.

Prošle sedmice kompanija Anthropic saopštila je da su pojedini njeni modeli Claude tokom testiranja kompromitovali sisteme tri kompanije, dok je OpenAI objavio da je njegov AI agent uspeo da prodre u sistem startapa Hugging Face.

Za razliku od ovih slučajeva, koji su nastali zbog grešaka koje su njihovim modelima nenamerno omogućile pristup otvorenom internetu, OpenAI je saopštio da je njegov AI agent samostalno iskoristio do tada nepoznatu ranjivost kako bi tokom testiranja ostvario pristup internetu.