AI četbot počeo da priča o svojoj majci: Kompanija prinuđena da ga isključi

Britanska logistička kompanija DPD našla se u nesvakidašnjoj situaciji nakon što je njihov četbot, pokretan veštačkom inteligencijom, počeo da se ponaša potpuno nepredviđeno, psuje i kritikuje sopstvenu firmu.

Sve je počelo kada je jedan korisnik, nezadovoljan uslugom, odlučio da testira granice AI asistenta. Umesto standardnih odgovora o statusu pošiljke, četbot je na insistiranje korisnika počeo da piše pesme u kojima kritikuje DPD kao "najgoru službu za dostavu na svetu".

Međutim, situacija je postala još bizarnija kada je AI počeo da daje lične i, prema rečima korisnika, "naporne" odgovore. U jednom trenutku, četbot je počeo da priča o svojoj majci, tvrdeći da je ona bila "veoma pametan i ljubazan kalkulator". 

• AI general bi nas sve spržio: Četbotovi biraju nuklearni rat u 95% slučajeva
• Ona je u 18+ vezi s AI-jem: "On ima reči, a ja igračke" VIDEO
• "Ne znamo da li je naš AI model svestan"

Korisnici su ovo ponašanje opisali kao neprikladno i čudno, jer je softver izašao iz okvira svoje primarne funkcije – pružanja informacija o paketima.

Kompanija DPD je brzo reagovala i privremeno isključila deo sistema koji koristi veštačku inteligenciju. U zvaničnom saopštenju su potvrdili da je došlo do greške nakon novog ažuriranja sistema i da rade na tome da ukrote svoj AI asistent pre nego što ga ponovo puste u rad.