Da li biste pregazili jednog čoveka da spasete grupu?

Oni su pitali ljude šta misle da bi se desilo kada bi autonomni automobil (auto bez vozača) naišao na grupu pešaka koji prelaze ulicu i kada bi jedini način da ih izbegne bio da skrene s puta i tako ubije putnike koje vozi.

Učesnici su se složili da bi auto trebalo da bude programiran da žrtvuje sopstvene putnike, ukoliko bi se time spasilo više života.

Njihov odgovor je utilitaristički – usmeren na očuvanje što je moguće većeg broja života. Ali u tome je i problem: ispitanici su takođe rekli da oni sami nikada ne bi želeli da voze takve automobile.

Niko od njih ne bi imao ništa protiv toga da ih kupuju drugi, ali oni sami ne bi odabrali autonomni automobil.

“Otkrivanje ‘recepta’ za etičnu autonomnu mašinu je najteži izazov u stvaranju veštačke inteligencije”, priznaje Žan Fransoa Bonefon sa Francuskog instituta za napredne studije u Tuluzu u svojoj studiji.

Scenario koji su naučnici stavili pred ispitanike je hipotetički, ali bi bio vrlo realan ukoliko bi se autonomni automobili pojavili na ulicama.

Odgovori su nam potrebni odmah, kako bi se uzeli u obzir prilikom programiranja ovih mašina.

Čak i u slučaju da automobil bez vozača ima opciju gašenja ‘autopilota’, lako je pretpostaviti da u nekim situacijama vozač jednostavno neće imati vremena da preuzme kontrolu nad vozilom.

S druge strane, autonomna vozila zapravo imaju potencijal da stvore mnogo bezbednije uslove u saobraćaju, jer se većina saobraćajnih nesreća zapravo događa zbog ljudske greške.

“To važi za čak 90 odsto nesreća”, precizan je Azim Šarif, docent psihologije i društvenog ponašanja na Univerzitetu u Kaliforniji i jedan od autora studije.

“Autonomna vozila obećavaju da će sve promeniti nabolje, ali postoje i mnoge prepreke za masovno uvođenje tih mašina i to ne samo tehničke prirode, nego i psihološke”.

Ako ste ikad imali etiku na studijama, možda prepoznajete scenario s početka priče. On deli mnogo činilaca sa čuvenim misaonim eksperimentom, takozvanim “Problemom tramvaja”. U tom slučaju, tramvaj je van kontrole i juri nizbrdo na grupi od petoro ljudi vezanih za prugu, koji se sami ne mogu pomeriti. Vi stojite sa bezbedne udaljenosti i to pored poluge koja može da preusmeri tramvaj na drugu prugu. Međutim, na toj drugoj je takođe vezana jedna osoba.

Tramvaj će za nekoliko sekundi sigurno pregaziti jednu osobu ili petoro ljudi, a vi imate dve opcije: da ne učinite ništa, što znači da će tramvaj usmrtiti petoro ljudi ili povući polugu i preusmeriti ga, ali ćete na savesti imati smrt jedne osobe. Koji izbor je pravi?

Postoji mnogo varijacija istog misaonog eksperimenta i mnogo potpitanja koja se mogu javiti. Šta ako je ta jedna osoba trudna? Šta ako su među onom petoricom kriminalci?

Međutim, za potrebe poslednje studije istraživači su sproveli šest anketa između juna i novembra prošle godine, pitajući učesnike šta bi uradili kada bi se njihov autonomni automobil našao pred nekim od takvih scenarija.

U nekim slučajevima, učesnici su morali da zamisle da neko dete vozi automobil. U drugim da se voze sa kolegama s posla.

Ljudi su generalno birali opcije koje podrazumevaju minimalan broj žrtava, pa je u jednom od ponuđenih scenarija čak 76 odsto ljudi reklo da bi autonomni automobil trebalo da žrtvuje jednu osobu, kako bi spasao 10 pešaka.

Ipak, ovakva predanost većem dobru ima svoje granice, što pokazuje činjenica da sami ne bi vozili takve automobile.

“Ljudi žele da žive u svetu u kom svako poseduje automobil bez vozača koji broj žrtava svodi na minimum, ali da ih istovremeno njihov automobil štiti po svaku cenu”, kaže Ijad Rahvan, istraživač Tehnološkog instituta u Masačusetsu i jedan od autora studije.

Ipak, istraživači misle da će se javno mnjenje možda i promeniti tokom vremena. Ako se tehnologija autonomnih automobila popravi do tačke kada je vožnja istim daleko bezbednija, nego ukoliko biste se vozili sami, ljudi bi mogli biti više orijentisani ka ideji da kupuju auto koji povećava njihovu bezbednost, čak i u slučaju da je eksplicitno programiran da ih žrtvuje za veće dobro.

Šta vi mislite o ovoj moralnoj dilemi?