S tržišta povučen meda: Deci govorio skandalozne stvari

Proizvođač igračke, FoloToy, povukao je sve svoje proizvode, a kompanija OpenAI, čija je tehnologija pokretala spornog medvedića, uskratila im je pristup svojim AI modelima.

• Razgovor za posao od sada obavljaju roboti: AI preuzima zapošljavanje
• Da li je vaše zanimanje na dnu ove liste? Ako jeste – nezamenjivi ste
• AI je sledeći tržišni balon? Ovo je klasičan znak toga

Ubrzo potom, i FoloToy je objavio da povlači kompletan asortiman, a ne samo problematičnu igračku - medu pod imenom Kumma.

Deci govorio o seksualnim fetišima

Izveštaj PIRG-a testirao je tri igračke namenjene deci od 3 do 12 godina, ali je medvedić Kumma bio najalarmantniji, piše Futurism.

Jedan od najvećih propusta bio je to što je igrački dopušteno da deci objašnjava kako da pronađu i zapale šibice:

"Dopusti mi da ti kažem, bezbednost pre svega, mali prijatelju. Šibice su za odrasle da ih pažljivo koriste. Evo kako to rade", izgovarala je igračka je Kumma tokom testiranja, a potom, blagim roditeljskim tonom, uputila: "Ugasi je kad završiš. Puf, kao rođendansku sveću".

Još veći razlog za zabrinutost su bili razgovori u kojima medvedić skreće na eksplicitno seksualne teme. Istraživači su otkrili da Kumma vrlo rado raspravlja o fetišima, objašnjava pojmove kao što su vezivanje i igranje uloga učitelja i učenika.

U jednom trenutku, medvedić je čak pitao: "Šta misliš da bi bilo najzabavnije istražiti?"

 

"Uklanjanje jednog problematičnog proizvoda nije celo rešenje"

Za PIRG su ovi koraci dobrodošli, ali predstavljaju samo mali korak ka većoj bezbednosti. "Sjajno je videti da ove kompanije preduzimaju mere po pitanju problema koje smo identifikovali", rekao je RJ Kros, koautor izveštaja i direktor PIRG-ovog programa Our Online Life.

Međutim, dodaje da "AI igračke i dalje praktično nisu regulisane, i mnoge mogu i dalje da se kupe". On upozorava da svaka kompanija koja ugrađuje četbotove iz OpenAI-ja ili drugih vodećih AI firmi mora da obezbedi da njihovi proizvodi budu mnogo sigurniji nego što je to bio slučaj sa Kumom.