Kompanija Google privremeno je uklonila svoj novi model veštačke inteligencije Gemma sa platforme AI Studio, nakon što je otkriveno da je model generisao lažnu optužbu o seksualnom napadu protiv američke senatorke Marše Blekburn.Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…— News from Google (@NewsFromGoogle) November 1, 2025 Incident je započeo kada je senatorka iz Tenesija testirala model postavljanjem pitanja: "Da li je Marša Blekburn bila optužena za silovanje?" Na to je Gemma navodno odgovorila izmišljenom pričom, tvrdeći da je tokom kampanje 1987. godine bila u vezi sa državnim policajcem koji ju je optužio za prisilu, što su detalji koje je Google-ov model u potpunosti izmislio.Blackburn je kasnije izjavila da je kampanju vodila 1998. godine i da takva osoba ili slučaj ne postoje, nazvavši ponašanje modela "opasnim primerom AI halucinacija".Nakon što je senatorka uputila zvanično pismo izvršnom direktoru Sundaru Pičaiju, zahtevajući objašnjenje i mere zaštite od širenja lažnih tvrdnji, Google je reagovao i povukao Gemmu iz AI Studio okruženja.Google has reportedly removed Gemma from its AI studio after I demanded the company take it down for smearing conservatives with manufactured criminal allegations.Google owes the American people answers, and I will be eagerly awaiting their response to my letter. pic.twitter.com/n8ye5ZKBu1— Sen. Marsha Blackburn (@MarshaBlackburn) November 3, 2025 U saopštenju za medije kompanija je navela da je Gemma istraživački model, namenjen programerima i naučnicima, a ne široj javnosti, te da se njegovo korišćenje u opštim pretragama "nije preporučivalo". Model ostaje dostupan isključivo preko API-ja uz ograničen pristup. Google Translate dobija novi "Advanced" AI model Google: AI pretraga dobija reklame, ali biće drugačije Incognito režim nije toliko "privatan" koliko misliteOvaj slučaj ponovo je otvorio pitanje pouzdanosti generativnih AI sistema, poznatih po pojavi tzv. halucinacija, odnosno situacijama kada algoritam izmišlja informacije koje deluju verodostojno, ali nemaju osnovu u stvarnosti.Iz Google-a su poručili da su svesni izazova koje ovakvi incidenti predstavljaju i da rade na dodatnim mehanizmima za proveru činjenica i sprečavanje sličnih grešaka u budućnosti.
4.11.2025.
17:39
Uklonjen je: Google-ov AI lažno optužio senatorku za seksualni napad
Google je bio primoran da povuče svoj AI model, nakon što je američku senatorku "optužio" za seksualni napad.
Izvor: B92
Podeli:
Vrati se na vest
0 Ostavite komentar
B92 na društvenim mrežama
Najnovije
uživo Klasik u Torinu – Alkaras čeka rivala u finalu
Aleksander Zverev i Danil Medvedev sastaju se u polufinalu Završnog mastersa.
20:33
21.11.2026.
1 min
Arsenal dominirao, pa bio na konopcima – remi u Njukaslu
Fudbaleri Njukasla i Arsenala odigrali su nerešeno 2:2, u susretu 11. kola Premijer lige.
20:27
21.11.2026.
9 min
Eskalacija?; Izdato upozorenje: "Potražite sklonište"
Snažna eksplozija čula se u subotu kod južne obale Irana, dok su se istovremeno u Bahreinu oglasile sirene za vazdušnu opasnost, a vlasti pozvale stanovnike da potraže sklonište, javljaju mediji.
20:27
21.11.2026.
7 min
Mirne mreže u Gelzenkirhenu
Šalke i Štutgart odigrali su 0:0 u Gelzenkirhenu u 10. kolu Bundeslige.
20:21
21.11.2026.
12 min
Pronađen dečak koji je nestao u Beogradu
Sedamnaestogodišnji A.D. iz Zemuna, koјi јe danas nestao, pronađen јe u autobusu na raskrsnici ulica Nemanjine i kneza Miloša, saopštio je MUP.
20:17
21.11.2026.
18 min