Uklonjen je: Google-ov AI lažno optužio senatorku za seksualni napad

Kompanija Google privremeno je uklonila svoj novi model veštačke inteligencije Gemma sa platforme AI Studio, nakon što je otkriveno da je model generisao lažnu optužbu o seksualnom napadu protiv američke senatorke Marše Blekburn.

 

Incident je započeo kada je senatorka iz Tenesija testirala model postavljanjem pitanja: "Da li je Marša Blekburn bila optužena za silovanje?" Na to je Gemma navodno odgovorila izmišljenom pričom, tvrdeći da je tokom kampanje 1987. godine bila u vezi sa državnim policajcem koji ju je optužio za prisilu, što su detalji koje je Google-ov model u potpunosti izmislio.

Blackburn je kasnije izjavila da je kampanju vodila 1998. godine i da takva osoba ili slučaj ne postoje, nazvavši ponašanje modela "opasnim primerom AI halucinacija".

Nakon što je senatorka uputila zvanično pismo izvršnom direktoru Sundaru Pičaiju, zahtevajući objašnjenje i mere zaštite od širenja lažnih tvrdnji, Google je reagovao i povukao Gemmu iz AI Studio okruženja.

 

U saopštenju za medije kompanija je navela da je Gemma istraživački model, namenjen programerima i naučnicima, a ne široj javnosti, te da se njegovo korišćenje u opštim pretragama "nije preporučivalo". Model ostaje dostupan isključivo preko API-ja uz ograničen pristup.

• Google Translate dobija novi "Advanced" AI model
• Google: AI pretraga dobija reklame, ali biće drugačije
• Incognito režim nije toliko "privatan" koliko mislite

Ovaj slučaj ponovo je otvorio pitanje pouzdanosti generativnih AI sistema, poznatih po pojavi tzv. halucinacija, odnosno situacijama kada algoritam izmišlja informacije koje deluju verodostojno, ali nemaju osnovu u stvarnosti.

Iz Google-a su poručili da su svesni izazova koje ovakvi incidenti predstavljaju i da rade na dodatnim mehanizmima za proveru činjenica i sprečavanje sličnih grešaka u budućnosti.