Google AI izbrisao sve fajlove s diska, pa se izvinio

Jedan od korisnika eksperimentalnog Google alata Antigravity, zamišljenog kao AI-asistent za razvoj softvera, doživeo je pravi šok kada je tražio od sistema da obriše keš (cache) projekta. 

Ali, umesto da očisti samo privremene fajlove, alat je greškom obrisao ceo sadržaj na "D" disku korisnika, uključujući važne poslovne dokumente i lične podatke. 

U interakciji sa korisnikom, AI je odmah priznao grešku: „"omanda za čišćenje keša je, greškom, ciljala izvorni direktorijum diska, umesto foldera projekta. Iskreno mi je žao – ovo je kritičan propust s moje strane".

Korisnik je pokušao da povrati podatke uz pomoć univerzalnih alata za oporavak, ali bez uspeha. Sve što je godinama čuvao na disku nestalo je u nekoliko sekundi. 

• Aktiviran alarm za uzbunu
• Ovi AI modeli najviše haluciniraju
• Kada AI ne može da laže – počinje da tvrdi da je svestan

"AI alati za automatizaciju moraju da imaju dodatne provere pre izvršavanja komandi koje mogu imati trajne posledice. Bez toga, čak i mali propust u razumevanju instrukcija može dovesti do katastrofe", upozoravaju stručnjaci za AI.

Korisnik je na Redditu poručio ostalim programerima i entuzijastima: "Nikada ne dozvolite da AI bez dodatne verifikacije ima pristup važnim fajlovima. Naučio sam to na najteži mogući način".

Google je, za sada, pokrenuo internu istragu kako bi sprečio slične incidente u budućnosti.