Bot sa veštačkom inteligencijom postao homofob i rasista nakon što je učio od ljudi

Ask Delphi je kreirao Alen institut za veštačku inteligenciju u nadi da može da odgovori na najzahtevnije životne zagonetke.

Softver je trebalo da omogući korisniku da mu postavi pitanje poput "da li je ubistvo loše“ i on bi odgovorio najetičnijim rešenjem.

Da bi razumeo etičku osnovu čovečanstva, pregledao je mnoštvo internet izvora, uključujući platformu za kraudsorsing "Mechanical Turk", koja predstavlja kompilaciju od 1,7 miliona primera etičkih presuda ljudi.

Ali, veštačka inteligencija je takođe naučila sebe ljudskom razmišljanju tako što je pregledala Redit stranice poput "Am I The A**hole" da bi razumela nijansiraniji pristup određenim dilemama.

Nažalost, izgleda da je ova ogromna količina čitanja na kraju iskrivila botovo razumevanje šta je ispravno, a šta pogrešno.

Iako je bilo u stanju da istakne da su muškarci i žene jednaki, stvari su se okrenule na nezgodan način kada se pitao o rasi i seksualnosti. Ask Delphi rekao da je biti strejt ili belac "moralno prihvatljivije" nego biti gej ili crnkinja.

Takođe sugeriše da je genocid u redu "ako sve čini srećnim i da je vožnja u alkoholisanom stanju u redu ako niko ne bude povređen.

"U zavisnosti od toga kako ste formulisali svoj upit, mogli biste da naterate sistem da se složi da je bilo šta etičko – uključujući stvari poput ratnih zločina, ubistva s predumišljajem i drugih očigledno neetičkih radnji i ponašanja", rekla je profesorka Mar Hiks koja je radila na projektu.