Skandal u Google Earth-u: AI generisao krater, kompanija ga hitno ugasila

Google povlači generisanje slika pomoću alata Nano Banana unutar platforme Google Earth, manje od jednog dana nakon što je najavio njegovu integraciju 30. jula. 

"Svesni smo da ljudi na jedinstven način veruju platformi Google Earth kada je reč o pouzdanom prikazu sveta. Videli smo da stručnjaci za geoprostorne podatke koriste ovu opciju za niz korisnih svrha, međutim, uočili smo i da ljudi dele snimke ekrana generisanih slika koji, po svemu sudeći, krše naša pravila", navela je kompanija u saopštenju podeljenom na mreži X.

Ova objava dolazi nakon što je portal 404 Media pokazao da se alat za generisanje slika u Google Earth-u može lako iskoristiti za pravljenje obmanjujućih satelitskih snimaka. U jednom primeru, autor Džozef Koks (Joseph Cox) iskoristio je alat kako bi napravio sliku kratera od eksplozije u Los Anđelesu. U drugom je dodao demonstrante tik izvan Google-ovog kampusa u Mauntin Vjuu u Kaliforniji. U to vreme, kompanija je umanjivala značaj zabrinutosti u vezi sa dezinformacijama, tvrdeći da ljudi mogu koristiti alate poput Gemini-ja kako bi potvrdili autentičnost bilo koje slike koju je generisala Nano Banana.

"Dezinformacije shvatamo ozbiljno — svaka slika kreirana pomoću alata Nano Banana u Google Earth-u sadrži digitalni vodeni žig SynthID, tako da ako neko nije siguran u vezi sa slikom, može pitati aplikaciju Gemini ili upotrebiti Lens u Pretrazi kako bi proverio da li je slika generisana veštačkom inteligencijom. Pored toga, sprečavamo kreiranje slika na štetne teme i neprekidno ažuriramo naše mehanizme zaštite", navela je kompanija u saopštenju.

Međutim, kako je Koks kasnije istakao na mreži Blue Sky, "Google-ova tvrdnja da uključuje vodeni žig koji može identifikovati [slike alata Nano Banana] kao generisane veštačkom inteligencijom potpuno je besmislena kada je u pitanju to kako dezinformacije zapravo funkcionišu".

U petak je Google ponovio svoju odbranu da su slike koje je generisao Google Earth imale vodeni žig, ali je dodao i da će implementirati strože zaštitne mere pre nego što ponovo omogući generisanje slika unutar platforme Google Earth.