Da li biste pregazili jednog čoveka da spasete grupu?

Nasao se Mujo pred sudijom i ovaj ga pita:
- Mujo optuzeni ste za ubistvo 51 osobe. Objasnite nam zasto ste to uradili?
- Pa, vidite u sred voznje shvatim ja da mi ne rade kocnice. Pogledam levo, pedeset ljudi, pogledam desno, tamo samo jedan covek. I mislim se, bolje da pregazim njega jednog, nego njih pedeset.
- Tako je, ali vi ste pregazili sve njih, kako?
- Pa skrenem ja desno, da gde je onaj jedan, ali on mi utrca medju onih pedeset...

"Smrt jednog čoveka je tragedija, smrt miliona ljudi je statistika"

Mene samo zanima koga ja da tuzim ako me pregazi takav auto, i naravno prezivim ??

Veoma je teško zgaziti deset ljudi jednim običnim automobilom, tako da ovo isprazno moralisanje ima osnova koliko i pitanje da li biste bacili akvarijum sa omiljenom ribicom kroz prozor ako bi vam neko ponudio milion dolara. Ko nudi milion dolara za to?

I, da, ne bih prihvatio da moj auto ubije mene a poštedi drugoga. Još manje bih prihvatio da ubije mene i moju porodicu u njemu, a da poštedi makar i 100 drugih ljudi. Svako ko tvrdi drugačije jeste ništa više od dosadnog, trulog i providnog licemera.

Eksperiment je MISAONI i ni po cemu ne odgovara realnosti. Grupa pesaka? Gde su oni? U gradu ili na sred autoputa? Naravno da su u gradu, a tamo autopilot sigurno ne prekoracuje brzinu, i cak i da skrene - ne ubija putnike. A opet, zasto mora da bude grupa pesaka? Moze da bude jedan, ili majka sa detetom. Ili su u pitanju demostracije pa sa po ulici vuce stotine ljudi cekajuci kad ce da ih potrefi auto? I taj auto sa robotom pilotom nema signalizaciju i sirenu da upozori "grupu"? Uopste, glup eksperiment i uopste, ja bih se vozio takvim kolima, sve i da postoji softversko ogranicenje koje kaze da ce da me zabije u zid ako vozi(m) gradom 100 na sat i pred sobom vidi stampedo drogiranih pesaka koji ne znaju gde su krenuli i ne reaguju na zvucne i svetlosne signale

Боље једно врућа пива него четири 'ладн,
боље стара баба, него дјева млада...

Svako voli SVOJ ZIVOT. U takvim situacijama radi se instinktivno. A to znaci da mozak i telo gledaju da prezive, a da li ce na drugoj strani biti beba ili baba je totalno nebitno. Evolucija ide i najjace i najsrecnije jedinke ostaju. Tako da sam ipak za opciju da sami nosimo i krojimo svoju sudbinu.

Nemoguce je ubaciti u softver algoritme svih mogucih scenarija. Biram manuelno, ipak kada bi svi mi vozili po propisima retko bi bilo zrtava nesrece.

Mislim da bih uzeo automobil koji bi sacuvao mene, vozaca, iz prostog razloga sto svako svoj zivot ceni najvise i tu nema nikakve dileme bilo kog tipa. Ako si ti toliko blesav da izletis pred auto onda i ne zasluzujes da se neko zrtvuje zbog tvoje gluposti. Prosta logika. Ionako nas ima preko 7 milijardi na ovoj planeti.

A sta ako su pesaci pijani? Ili ako namrno izlecu? Gaaaaziii

Autonomna vozila ce imati buducnost samo u slucaju da se postepeno pocnu graditi putevi koji eliminisu takve situacije. Ogradjeni ili podignuti na vijadukt... Dilema nije samo pred softverom, postoje i pravne posledice, a i finansijske (osiguranje?).
Inace, ja ne prihvatam ni automatski menjac, a kamoli autopilota.

Ovakva pitanja nemaju odgovor. Jer odgovor na takvo pitanje može da da samo onaj ko je već bio u takvoj situaciji. Jednostavno, možete vi misliti o sebi i sopstvenoj etici što god hoćete, ali kako će te reagovati na sličnu situaciju, ne možete sa sigurnošću predvideti.
A što se autopilota tiče, svakako mora bti podešen da prvo čuva putnike, jer inače niko ne bi kupovao auto koji je spreman svesno da ga žrtvuje. A u realnom životu, mali broj vozača bi tek tako pregazio grupu ljudi. Instiktivno bi pokušali da ih zaobiđu, ali to nije svesno žrtvovanje, već odluka koja se donosi u deliću sekunde.

Teoretski, do takve situacije ne bi ni doslo zahvaljujuci senzorima i pravovremenom kocenju autonomnog vozila. Ali, ako bih bas odgovarao na pitanje, morao bih da se osvrnem na to da je covek egoisticno stvorenje, ciji je prirodni bazicni instinkt da prvo spase sebe. Samim tim, nema dileme, i vozilo se mora tako programirati, da uvek najpre sacuva putnika.

covek je jedino svesno bice i treba sam da donosi odluke o svojoj sudbini, ne da o tome odlucuje masina.

To je sasvim prirodno. Koliko god tehnologija napredovala, vestacka inteligencija nikada nece reagovati kao covek u odredjenim situacijama... Reagovace losije, nekada mozda cak i bolje ali.. Svakako da nisam protivnik takvih projekata, ali licno se nikada ne bih opredelio za takav tip automobila ukoliko mogu da kupim normalan ma koji brend to bio. Volim da vozim, uzivam u tome, i ni nalo mi nije zanimljiva ideja da pisem mejlove dok me auto sam vozi na posao.. :)

Meni bi najlogičnije bilo da u naseljenom mestu automobil vozi 50km/h i onda ima vremena da reaguje i to mnogo brže nego što bi reagovao čovek. Čak i ako ne uspe potpuno da se zaustavi, udarac najverovatnije neće biti fatalan.
Ko iskoči ispred automobila toliko blizu da nema vremena za adekvatnu reakciju ili pretrčava autoput, sam je kriv, zašto bi žrtvovali putnike...

Da bih tacno odgovorio na ovo pitanje, potrebni su mi jedan auto, grupa ljudi i ova(j) ko je postavio(la) to pitanje.

neko bi pregazio jednog, neko grupu, u trenutku se to odluci

Ima jedna poslovica: "Hrani kuce da te ujede". Ja tako vidim mogucnost da budem deo statistike ukoliko bih bio vlasnik takvog automobila. Psa nemam, a necu imati ni takav auto.

hajde prvo da vidimo ko su pešaci a ko se vozi. ovako, ad hoc, pitanje nema mnogo smisla.

Sta ce nama autonomni automobili? Zbog ljudi koji ne znaju da voze, zbog ljudi koji ne zele da voze? Ja bre volim da vozim, volim da sednem u auto, volim zvuk motora od koliko god cilindara. Buducnost nam predstavljaju kao elektro-samovozecu. Struja, vodonik, jeste buducnost, samovozeci automobili mogu biti samo opcija. Verovatno ce imati predhodno ucitane nacine voznje pa da bi ikada mogao da pozuri moram da ga hakujem i ucitam mu mape Mike Hakinena ili Mc Rea. Sve mi ovo deluje sumorno. Bolje je edukovati vozace i napraviti bolje i sigurnije puteve. Automobili nisu jos dostigli svoj zenit, pravi automobili.

Ако би желели да машине што је могуће више опонашају човека онда ће и по "етичности" бити такође тако ! Машине ће урадити исто што и човек ! Једно ће рећи а ко зна шта мислити и на крају нико неће знати шта ће и урадити !!! Живи били па видели !

pregazio bih ih sve

Članak je senzacionalistički i nema veze s onom kako će automatizovani saobraćaj funkcionisati.

Prvo i prvo, robotizovani auto neće voziti kao što vozi pola vozača danas, da ide velikom brzinom u nepreglednim situacijama kada neko ili nešto može iznenada da iskoči ispred auta, recimo dete između parkiranih automobila, ili drugi auto iza ugla zgrade. Dakle brzina će biti takva da se svi nepoznati parametri uzimaju u obzir. Brzina će biti velika samo ako je situacija potpuno čista i pregledna, bez objekata iza kojih nešto može da se sakrije i iskoči. A ako je situacija pregledna, gobilazak ljudi na putu će biti detektovana sa stotinak metara, što je sasvim dovoljno za zaustavljanje.

Ovde je otvorena Pandorina kutija. Isuvise je slucajnosti i besmisleno je...

Zanimljivo je kako je danas u našem društvu religija nikada popularnija. Slave se slave, veličaju se crkve, običaji i religiozna verovanja. A stepen ljudskog saosećanja, altruizma i ljubavi "prema bližnjem", koju svaka religija u osnovi propagira, je u praksi potpuno skrajnut.
Tako i većina ljudi u ovom slučaju glasa za sebe, za svoje dobro, za svoju guzicu. Iako je njihov spasitelj u koga veruju uradio upravo suprotno.
Autonomna vozila treba da se programiraju da u hipotetičkom slučaju delaju tako da nanesu generalno što manju štetu. Taj koji se buni da neće da ga ubiju sopstvena kola će biti zahvalan kada, recimo, kao pešak u nekoj situaciji preživi baš zbog tih kola.

nema šanse da se to dogodi, jedino ako bi ta grupa iskočila 5m ispred vozila onda bi to bilo kasno, jer vozilo nemože da se zaustavi na vreme, što bi značilo da je opet krivac čovek.

tako je brale ovi nesposobnjakovici koji neznaju da voze kola nek idu javnim prevozom sts ce mi auto da me sam vozi ja bre volim da vozim i uzivam u zvuku motora zelja mi je da vozim mad max interceptor pa kad ukljucis onaj turbo punjac onaj zvuk jooooooo predivan zvuk

U cemu je problem? Zamislite da sami vozite prema grupi pesaka, bez sanse za usporavanje. Imate dve mogucnosti: da skrenete s puta ili da poubijate desetine neduznih. Mislim da bi 99% ljudi izabralo da zrtvuje sebe.

Ionako, kad ljudima bude zabranjeno da voze automobile broj nesreca ce biti sveden prakticno na nulu.

Niko ne treba da ucestvuje u ovakvim eksperimentima.

Auto koji moze da izabere da vozaca odvede u smrt nikad se nece prodavati.

ne i ne. Autonomni automobil ne sme da odlucuje izmedju zivot ai smrti. ni AI ni algoritam. Kada autmobil shvati da ce doci do tragedije treba da se kontrolisano lansira u vazduh (eksplozivno punjenje ispod sasije) i aktivira padobran i vazdusne jastuke pa sta bude -bude. Cak i ako tako pogine vise ljudi. to ce statistika jedino moci da pokaze. jedini problem je tunel ili nadvoznjak ali u om slucaju neka aktivira vazdusne jastuke spolja da ublazi udar pa sta bude. NIJE NA MASINI DA ODLUCI KO UMIRE A KO ZIVI. (Ne verujem u boga ali ni u masinu koja umislja da je bog)

Kada su eticki misaoni eksperimenti u pitanju, nekako mi se cini da valjanog odgovora nema. Primer 1) Nalazite se pored skretnice koja zahutkali vagon moze odvesti na kolosek A ili na kolosek B. Na koloseku A radi 5 radnika, a na koloseku B radi jedan (skretnica je namestena na kolosek A). Ni jedan od radnika ne cuje vagon koji se priblizava vi ne mozete da upozorite bilo koga i jedino sto mozete je da prebacite skretnicu na A ili na B.
Primer 2) Opet vagon juri ka grupi od 5 radnika ali neam skretnice, radnici ne cuju vagon, ali pored pruge se nalazi covek u invalidskim kolicima, ukoliko gurnete invalida (sve sa kolicima) na sine, vagon ce iskociti iz sina i prevrnuce se pored nasipa, invalid ce poginuti.
Kako bi odreagovali u primeru 1 a kako u primeru 2?

Zastava je jos u proslom veku napravila auto programiran da ubije vlasnika. U svakom smislu.

If I have to choose between two evils, I would rather not choose at all. Napravi auto dovoljno sigurnim da u njemu ne moze da se pogine, dok je na autopilotu. Ogranici mu brzinu na 50 km na sat, ili sta god vec. Ojacaj karoseriju, postavi bolje air bagove. Eto, to ja mislim. AI je odlicna stvar, ali je ne mozemo nauciti nesto sto ni sami ne znamo.

Bzvz

Ja sam za neku sredinu,odnosno da covek drzi kontrolu nad autom,ali pod budnim okom kompjutera,neka kombinacija i naravno da covek bude odgovoran.Postoji u saobracaju tkzv psihicka sekunda,koja bi se znacajno smanjila,ako bi kompjuter reagovao u delicu sekunde.

naravno dabih pre izabrao da pregazim jednog coveka nego vise njih ali ovde se radi o necem drugom dali bi svesno zrtvovali sebe i nekog od svoje familije u autu ili par vise ljudi na ulici mislim da niko nije toliko moralan dabi to svesno uradio

Dilema je lažna. Svi učesnici u saobraćaju su svesni propisa o bezbednosti i treba da ih se pridržavaju, u kom slučaju ne bi trebalo da se ikada dogodi pomenuta situacija. Robot vozač naravno treba da poštuje propise (ograničenje brzine, odstojanje i rastojanje, sniženje brzine i povećanje rastojanja ili odstojanja u slučaju pojave rizika)i u tom slučaju nikada ne treba da se nađe u poziciji u kojoj bi bilo opravdano da ubije niti svoje putnike, niti druge učesnike u saobraćaju KOJI SU SE PONAŠALI BEZBEDNO. Ako do situacije dođe usled kvara vozila, još uvek treba da učini sve da ne dođe do neželjenih posledica unutar svojih mogućnosti, ali u tom slučaju ne na račun nevinih - odgovornost za neispravnost je na strani vlasnika vozila i to je rizik koji moraju preuzeti pre svega putnici.

Potpuno pogresan nacin razmisljanja. U koliko se petoro ljudi svojom krivicom nadje ispred vozila koje moze da ih pregazi, zasti bi stradao jedan covek koji nije ispred vozila i nije nizasta kriv, a na koga bi vozilo samo skrenulo da bi spaslo neopreznu petoricu???? Ne treba vestacka intiligencija da odlucuje ko treba da strada a ko ne. Da ne govorim o automobilu koji bi odlucio da ubije svog vlasnika odnosno vozaca koji nije nizasta kriv, zato sto su neki ljudi odlucili da neoprezno pretrcavaju ulicu.....Dakle iz formule je iskljuceno pitanje krivice, koje vestacka intiligencija ne moze da resava u toku voznje.

Ovakva pitanja su bezpredmetna.
Nemoguće je unapred znati ishod saobraćajne nezgode, niti znati unapred broj žrtava, jer svi učesnici u saobraćaju prave nezavisne odluke. U navedenoj situaciji (koja se inače ne bi desila ako je sistem dovoljno dobar jer ne može grupa ljudi tek tako da se 'stvori' ispred vozila, vozilo bi ih videlo pre nego što uđu u putanju i usporilo) najbolje je uvek zakočiti, što možda neće u potpunosti zaustaviti vozilo pre potencijalnog udarca, ali će dati više vremena pešacima da se sklone i umanjiti potencijalne povrede.

A sta ako je u pitanju sekta koja se baca ispred vozila u cinu grupnog samoubistva?

zavisi kakva je grupa... ako bi birao izmedju 50 huligana koji se šepure na drumu i jednog savesnog pešaka na trotoaru,radije bih zgazio 50 huligana

covek je jedino svesno bice i treba sam da donosi odluke o svojoj sudbini, ne da o tome odlucuje masina.
(alesia, 24. jun 2016 10:05)
Zavisi koji čovek. Npr moj komšija je svaki dan pijan i svaki dan vozi... Ako treba da stavim svoj život u njegove ruke ili u ruke mašine, stavio bi u ruke mašine... Jer od njega toster ima više mozga... Kao i u svemu drugom, ako se tehnika toliko razvije da postane dovoljno bezbedno, statistički bezbednije od čoveka, onda treba da se usvoji... A još nešto da dodam... Svako ko se ikad vozio avionom stavljao je svoj život u ruke mašine jer dragi moji masivni putnički avion autopilot može da spusti mnogo puta sigurnije i preciznije od čoveka... I već danas postoji dovoljno razvijena tehnologija da avion uzleti, leti i sleti a da ga pilot ne takne... Samo je ljudima psihički teško da prihvate da lete avionom u kom nema pilota...ista jr stvar sa kolima

Решење је у измештању саобраћаја тамо где се може у позпуности аутоматизовати и обезбедити нула саобраћајних несрећа. Где ? Па можда би измештање у ваздух то омогућило или барем врррло проближило таквим тежњама. Када кажем ваздух, првенствено мислим на возила попут хекскоптера и сл. са дуплираним системима/погонима и централизованим диспечингом саобраћаја. У том случају пешаци не могу да сметају а једини проблем може бити тежак квар возила мада би се и то можда могло предупредити и минимализовати евентуачлне несреће.

Kad nas jednog dana uzjasu Omnius i njegov veseli drugar Erasmus , bice veselo

(meeskec, 24. jun 2016 11:45)
Blago tebi kad volis da vozis kroz gradsku guzvu i/ili po autoputu na izlazima/ulazima u grad. Eto samo to je dovoljan razlog za autonomna vozila.

Sto se tice naslova/teme - naravno da bih pregazio jednog da spasim grupu, ma sam sebe bih pregazio da spasem par drugih

setio sam se čuvenog SF romana I Asimova ' Ja Robot' i njegova 3 pravila robotike:
1. robot ne sme da povredi ljudsko biće niti da svojom neaktivnošću dozvoli da ljudsko biće bude povredjeno;
2. robot mora da izvršava naredjenje ljudskih bića osim ako ona nisu protiv pravila 1;
3. robot mora da štiti svoje postojanje osim ako to nije protiv pravila 1. i 2.;
razmislite da li automobili mogu sami da voze dok ne dobiju veštački mozak sa ovakvim pravilima...

1. necu da vozim elektricni auto
2. necu da "vozim" autonomni auto

hvala!

Pregazis jednog pa se vadis na grupu...

Šta priča ovaj bedak?
Momak drži se trake za proizvodnju, batali etiku.

autonomni automobili imaju registracije - NS, RU, KI

A sta ako je u grupi naslednik Hitlerove ideologije, a u kolima buduci naucnik koji ce naci lek za rak?
Suvise je povrsno posmatranje kvaniteteta, a kvalitet ne moze masina da izracuna. Moja sudbina u mojim rukama. Jezivo banalizovanje ljudske sudbine na osnovu pukog broja.

@meeskec
Zamisli da imas na primer taksi kompaniju. U jednom trenutku ce ti se vise isplatiti da svoje zaposlene zamenis autonomnim vozilima. Sigurno da ih neces pitati da li oni mozda slucajno uzivaju u voznji i zvuku motora i slicno. A po slicnom principu ce citave privrede da idu u tom smeru, sto znaci da cak iako odlucis da zadrzis ljudske radnike, propasces. A naravno i zakoni bi pratili ove trendove, s'obzirom da su autonomna vozila odavno sigurnija od ljudi. I ne radi se o tome da to mozemo da izbegnemo ako bolje edukujemo vozace, jer je nemoguce je da ikako covek bude superiorniji od masine koja uci i koja ima bezbroj senzora itd.

Nema potrebe da se sekirate oko ovoga. Autonomni automobili nikada nece biti stvarnost. Poyy!!1!1

A dali ste razmisljali ovako:
Udes je na mostu, naravno iznenadno kocenje, kompjuter proceni da su u vozilu ispred vas 4 osobe, u tom trenutku ne moze da se zaustavi....

1 - Udara u automobil ispred sebe
2 - Skrece naglo desno, udara u ogradu, slece sa mosta ... nema vas.


Kompjuter bi uradio pod brojem 2.
A mi pod brojem 1. ostali bi zivi putnici ispred nas uz manje povrede kao i mi.

Volim kompjutere i nove ehnologije ali nije to za auto, ako je tako programiran. A bice da je tako.

a sta ako je taj jedan covek recimo premijer ili vazna ili zasluzna ličnost? da li auto treba da zgazi 10 anonimusa ili jednog VIPa?

@ cinik

Ako nema drugih parametara, uvek je jedan manja šteta od pet.

Citam ovo i ne verujem. Pa ovi naucnici su u stvari glupi kao tocilo.

Mozak coveka je "programiran" tako da mu je jako tesko da se svesno zrtvuje... cak iako je osoba resena da se ubije na primer, nesto u svesti ce ga kociti u tome, jer mozak podsvesno stiti sam sebe. Covek ovakve stvari prevazilazi u situacijama kada je npr. ugrozeno njegovo potomstvo, i to je evolutivna karakteristika koja se javlja kod velikog broja zivotinja, i ona obezbedjuje prenosenje gena na novu generaciju. Kao sto rece neko u komentarima ispod mozete da racunate koliko hocete al kad u racunicu ubacite porodicu ili decu... tu radite sta god je potrebno da ih sacuvate.

Mislim da je to uvod u eru u kojoj ce masine moci da ubiju ljude,

jer je to mozda manje los izbor.

Ovo je vrlo diskutabilno. Znaci ako mrzim nekog dovoljno je da na njegovu putanju kojom cesto ide u odredjenom trenutku bacim par litaka na cestu i resim se toga koga mrzim.

Pogledajte na yt Justice lecture sa Harvard uni. U epizodi jedan je obradjena upravo ova problematika

Pitanje je besmisleno!

Eksperiment je MISAONI i ni po cemu ne odgovara realnosti. Grupa pesaka? Gde su oni? U gradu ili na sred autoputa? Naravno da su u gradu, a tamo autopilot sigurno ne prekoracuje brzinu, i cak i da skrene - ne ubija putnike. A opet, zasto mora da bude grupa pesaka? Moze da bude jedan, ili majka sa detetom. Ili su u pitanju demostracije pa sa po ulici vuce stotine ljudi cekajuci kad ce da ih potrefi auto? I taj auto sa robotom pilotom nema signalizaciju i sirenu da upozori "grupu"? Uopste, glup eksperiment i uopste, ja bih se vozio takvim kolima, sve i da postoji softversko ogranicenje koje kaze da ce da me zabije u zid ako vozi(m) gradom 100 na sat i pred sobom vidi stampedo drogiranih pesaka koji ne znaju gde su krenuli i ne reaguju na zvucne i svetlosne signale

tako je brale ovi nesposobnjakovici koji neznaju da voze kola nek idu javnim prevozom sts ce mi auto da me sam vozi ja bre volim da vozim i uzivam u zvuku motora zelja mi je da vozim mad max interceptor pa kad ukljucis onaj turbo punjac onaj zvuk jooooooo predivan zvuk

Šta priča ovaj bedak?
Momak drži se trake za proizvodnju, batali etiku.

covek je jedino svesno bice i treba sam da donosi odluke o svojoj sudbini, ne da o tome odlucuje masina.

Решење је у измештању саобраћаја тамо где се може у позпуности аутоматизовати и обезбедити нула саобраћајних несрећа. Где ? Па можда би измештање у ваздух то омогућило или барем врррло проближило таквим тежњама. Када кажем ваздух, првенствено мислим на возила попут хекскоптера и сл. са дуплираним системима/погонима и централизованим диспечингом саобраћаја. У том случају пешаци не могу да сметају а једини проблем може бити тежак квар возила мада би се и то можда могло предупредити и минимализовати евентуачлне несреће.

Sta ce nama autonomni automobili? Zbog ljudi koji ne znaju da voze, zbog ljudi koji ne zele da voze? Ja bre volim da vozim, volim da sednem u auto, volim zvuk motora od koliko god cilindara. Buducnost nam predstavljaju kao elektro-samovozecu. Struja, vodonik, jeste buducnost, samovozeci automobili mogu biti samo opcija. Verovatno ce imati predhodno ucitane nacine voznje pa da bi ikada mogao da pozuri moram da ga hakujem i ucitam mu mape Mike Hakinena ili Mc Rea. Sve mi ovo deluje sumorno. Bolje je edukovati vozace i napraviti bolje i sigurnije puteve. Automobili nisu jos dostigli svoj zenit, pravi automobili.

Autonomna vozila ce imati buducnost samo u slucaju da se postepeno pocnu graditi putevi koji eliminisu takve situacije. Ogradjeni ili podignuti na vijadukt... Dilema nije samo pred softverom, postoje i pravne posledice, a i finansijske (osiguranje?).
Inace, ja ne prihvatam ni automatski menjac, a kamoli autopilota.

ne i ne. Autonomni automobil ne sme da odlucuje izmedju zivot ai smrti. ni AI ni algoritam. Kada autmobil shvati da ce doci do tragedije treba da se kontrolisano lansira u vazduh (eksplozivno punjenje ispod sasije) i aktivira padobran i vazdusne jastuke pa sta bude -bude. Cak i ako tako pogine vise ljudi. to ce statistika jedino moci da pokaze. jedini problem je tunel ili nadvoznjak ali u om slucaju neka aktivira vazdusne jastuke spolja da ublazi udar pa sta bude. NIJE NA MASINI DA ODLUCI KO UMIRE A KO ZIVI. (Ne verujem u boga ali ni u masinu koja umislja da je bog)

Ima jedna poslovica: "Hrani kuce da te ujede". Ja tako vidim mogucnost da budem deo statistike ukoliko bih bio vlasnik takvog automobila. Psa nemam, a necu imati ni takav auto.

Mene samo zanima koga ja da tuzim ako me pregazi takav auto, i naravno prezivim ??

Zanimljivo je kako je danas u našem društvu religija nikada popularnija. Slave se slave, veličaju se crkve, običaji i religiozna verovanja. A stepen ljudskog saosećanja, altruizma i ljubavi "prema bližnjem", koju svaka religija u osnovi propagira, je u praksi potpuno skrajnut.
Tako i većina ljudi u ovom slučaju glasa za sebe, za svoje dobro, za svoju guzicu. Iako je njihov spasitelj u koga veruju uradio upravo suprotno.
Autonomna vozila treba da se programiraju da u hipotetičkom slučaju delaju tako da nanesu generalno što manju štetu. Taj koji se buni da neće da ga ubiju sopstvena kola će biti zahvalan kada, recimo, kao pešak u nekoj situaciji preživi baš zbog tih kola.

To je sasvim prirodno. Koliko god tehnologija napredovala, vestacka inteligencija nikada nece reagovati kao covek u odredjenim situacijama... Reagovace losije, nekada mozda cak i bolje ali.. Svakako da nisam protivnik takvih projekata, ali licno se nikada ne bih opredelio za takav tip automobila ukoliko mogu da kupim normalan ma koji brend to bio. Volim da vozim, uzivam u tome, i ni nalo mi nije zanimljiva ideja da pisem mejlove dok me auto sam vozi na posao.. :)

U cemu je problem? Zamislite da sami vozite prema grupi pesaka, bez sanse za usporavanje. Imate dve mogucnosti: da skrenete s puta ili da poubijate desetine neduznih. Mislim da bi 99% ljudi izabralo da zrtvuje sebe.

Ionako, kad ljudima bude zabranjeno da voze automobile broj nesreca ce biti sveden prakticno na nulu.

(meeskec, 24. jun 2016 11:45)
Blago tebi kad volis da vozis kroz gradsku guzvu i/ili po autoputu na izlazima/ulazima u grad. Eto samo to je dovoljan razlog za autonomna vozila.

Sto se tice naslova/teme - naravno da bih pregazio jednog da spasim grupu, ma sam sebe bih pregazio da spasem par drugih

Kada su eticki misaoni eksperimenti u pitanju, nekako mi se cini da valjanog odgovora nema. Primer 1) Nalazite se pored skretnice koja zahutkali vagon moze odvesti na kolosek A ili na kolosek B. Na koloseku A radi 5 radnika, a na koloseku B radi jedan (skretnica je namestena na kolosek A). Ni jedan od radnika ne cuje vagon koji se priblizava vi ne mozete da upozorite bilo koga i jedino sto mozete je da prebacite skretnicu na A ili na B.
Primer 2) Opet vagon juri ka grupi od 5 radnika ali neam skretnice, radnici ne cuju vagon, ali pored pruge se nalazi covek u invalidskim kolicima, ukoliko gurnete invalida (sve sa kolicima) na sine, vagon ce iskociti iz sina i prevrnuce se pored nasipa, invalid ce poginuti.
Kako bi odreagovali u primeru 1 a kako u primeru 2?

1. necu da vozim elektricni auto
2. necu da "vozim" autonomni auto

hvala!

"Smrt jednog čoveka je tragedija, smrt miliona ljudi je statistika"

Mislim da bih uzeo automobil koji bi sacuvao mene, vozaca, iz prostog razloga sto svako svoj zivot ceni najvise i tu nema nikakve dileme bilo kog tipa. Ako si ti toliko blesav da izletis pred auto onda i ne zasluzujes da se neko zrtvuje zbog tvoje gluposti. Prosta logika. Ionako nas ima preko 7 milijardi na ovoj planeti.

nema šanse da se to dogodi, jedino ako bi ta grupa iskočila 5m ispred vozila onda bi to bilo kasno, jer vozilo nemože da se zaustavi na vreme, što bi značilo da je opet krivac čovek.

Svako voli SVOJ ZIVOT. U takvim situacijama radi se instinktivno. A to znaci da mozak i telo gledaju da prezive, a da li ce na drugoj strani biti beba ili baba je totalno nebitno. Evolucija ide i najjace i najsrecnije jedinke ostaju. Tako da sam ipak za opciju da sami nosimo i krojimo svoju sudbinu.

A sta ako su pesaci pijani? Ili ako namrno izlecu? Gaaaaziii

hajde prvo da vidimo ko su pešaci a ko se vozi. ovako, ad hoc, pitanje nema mnogo smisla.

Članak je senzacionalistički i nema veze s onom kako će automatizovani saobraćaj funkcionisati.

Prvo i prvo, robotizovani auto neće voziti kao što vozi pola vozača danas, da ide velikom brzinom u nepreglednim situacijama kada neko ili nešto može iznenada da iskoči ispred auta, recimo dete između parkiranih automobila, ili drugi auto iza ugla zgrade. Dakle brzina će biti takva da se svi nepoznati parametri uzimaju u obzir. Brzina će biti velika samo ako je situacija potpuno čista i pregledna, bez objekata iza kojih nešto može da se sakrije i iskoči. A ako je situacija pregledna, gobilazak ljudi na putu će biti detektovana sa stotinak metara, što je sasvim dovoljno za zaustavljanje.

Bzvz

Veoma je teško zgaziti deset ljudi jednim običnim automobilom, tako da ovo isprazno moralisanje ima osnova koliko i pitanje da li biste bacili akvarijum sa omiljenom ribicom kroz prozor ako bi vam neko ponudio milion dolara. Ko nudi milion dolara za to?

I, da, ne bih prihvatio da moj auto ubije mene a poštedi drugoga. Još manje bih prihvatio da ubije mene i moju porodicu u njemu, a da poštedi makar i 100 drugih ljudi. Svako ko tvrdi drugačije jeste ništa više od dosadnog, trulog i providnog licemera.

Da bih tacno odgovorio na ovo pitanje, potrebni su mi jedan auto, grupa ljudi i ova(j) ko je postavio(la) to pitanje.

Ja sam za neku sredinu,odnosno da covek drzi kontrolu nad autom,ali pod budnim okom kompjutera,neka kombinacija i naravno da covek bude odgovoran.Postoji u saobracaju tkzv psihicka sekunda,koja bi se znacajno smanjila,ako bi kompjuter reagovao u delicu sekunde.

Teoretski, do takve situacije ne bi ni doslo zahvaljujuci senzorima i pravovremenom kocenju autonomnog vozila. Ali, ako bih bas odgovarao na pitanje, morao bih da se osvrnem na to da je covek egoisticno stvorenje, ciji je prirodni bazicni instinkt da prvo spase sebe. Samim tim, nema dileme, i vozilo se mora tako programirati, da uvek najpre sacuva putnika.

Боље једно врућа пива него четири 'ладн,
боље стара баба, него дјева млада...

pregazio bih ih sve

Kad nas jednog dana uzjasu Omnius i njegov veseli drugar Erasmus , bice veselo

Niko ne treba da ucestvuje u ovakvim eksperimentima.

Nema potrebe da se sekirate oko ovoga. Autonomni automobili nikada nece biti stvarnost. Poyy!!1!1

Ovde je otvorena Pandorina kutija. Isuvise je slucajnosti i besmisleno je...

Meni bi najlogičnije bilo da u naseljenom mestu automobil vozi 50km/h i onda ima vremena da reaguje i to mnogo brže nego što bi reagovao čovek. Čak i ako ne uspe potpuno da se zaustavi, udarac najverovatnije neće biti fatalan.
Ko iskoči ispred automobila toliko blizu da nema vremena za adekvatnu reakciju ili pretrčava autoput, sam je kriv, zašto bi žrtvovali putnike...

Dilema je lažna. Svi učesnici u saobraćaju su svesni propisa o bezbednosti i treba da ih se pridržavaju, u kom slučaju ne bi trebalo da se ikada dogodi pomenuta situacija. Robot vozač naravno treba da poštuje propise (ograničenje brzine, odstojanje i rastojanje, sniženje brzine i povećanje rastojanja ili odstojanja u slučaju pojave rizika)i u tom slučaju nikada ne treba da se nađe u poziciji u kojoj bi bilo opravdano da ubije niti svoje putnike, niti druge učesnike u saobraćaju KOJI SU SE PONAŠALI BEZBEDNO. Ako do situacije dođe usled kvara vozila, još uvek treba da učini sve da ne dođe do neželjenih posledica unutar svojih mogućnosti, ali u tom slučaju ne na račun nevinih - odgovornost za neispravnost je na strani vlasnika vozila i to je rizik koji moraju preuzeti pre svega putnici.

Nasao se Mujo pred sudijom i ovaj ga pita:
- Mujo optuzeni ste za ubistvo 51 osobe. Objasnite nam zasto ste to uradili?
- Pa, vidite u sred voznje shvatim ja da mi ne rade kocnice. Pogledam levo, pedeset ljudi, pogledam desno, tamo samo jedan covek. I mislim se, bolje da pregazim njega jednog, nego njih pedeset.
- Tako je, ali vi ste pregazili sve njih, kako?
- Pa skrenem ja desno, da gde je onaj jedan, ali on mi utrca medju onih pedeset...

a sta ako je taj jedan covek recimo premijer ili vazna ili zasluzna ličnost? da li auto treba da zgazi 10 anonimusa ili jednog VIPa?

Citam ovo i ne verujem. Pa ovi naucnici su u stvari glupi kao tocilo.

Nemoguce je ubaciti u softver algoritme svih mogucih scenarija. Biram manuelno, ipak kada bi svi mi vozili po propisima retko bi bilo zrtava nesrece.

Zastava je jos u proslom veku napravila auto programiran da ubije vlasnika. U svakom smislu.

Potpuno pogresan nacin razmisljanja. U koliko se petoro ljudi svojom krivicom nadje ispred vozila koje moze da ih pregazi, zasti bi stradao jedan covek koji nije ispred vozila i nije nizasta kriv, a na koga bi vozilo samo skrenulo da bi spaslo neopreznu petoricu???? Ne treba vestacka intiligencija da odlucuje ko treba da strada a ko ne. Da ne govorim o automobilu koji bi odlucio da ubije svog vlasnika odnosno vozaca koji nije nizasta kriv, zato sto su neki ljudi odlucili da neoprezno pretrcavaju ulicu.....Dakle iz formule je iskljuceno pitanje krivice, koje vestacka intiligencija ne moze da resava u toku voznje.

Ovo je vrlo diskutabilno. Znaci ako mrzim nekog dovoljno je da na njegovu putanju kojom cesto ide u odredjenom trenutku bacim par litaka na cestu i resim se toga koga mrzim.

autonomni automobili imaju registracije - NS, RU, KI

@ cinik

Ako nema drugih parametara, uvek je jedan manja šteta od pet.

Ако би желели да машине што је могуће више опонашају човека онда ће и по "етичности" бити такође тако ! Машине ће урадити исто што и човек ! Једно ће рећи а ко зна шта мислити и на крају нико неће знати шта ће и урадити !!! Живи били па видели !

covek je jedino svesno bice i treba sam da donosi odluke o svojoj sudbini, ne da o tome odlucuje masina.
(alesia, 24. jun 2016 10:05)
Zavisi koji čovek. Npr moj komšija je svaki dan pijan i svaki dan vozi... Ako treba da stavim svoj život u njegove ruke ili u ruke mašine, stavio bi u ruke mašine... Jer od njega toster ima više mozga... Kao i u svemu drugom, ako se tehnika toliko razvije da postane dovoljno bezbedno, statistički bezbednije od čoveka, onda treba da se usvoji... A još nešto da dodam... Svako ko se ikad vozio avionom stavljao je svoj život u ruke mašine jer dragi moji masivni putnički avion autopilot može da spusti mnogo puta sigurnije i preciznije od čoveka... I već danas postoji dovoljno razvijena tehnologija da avion uzleti, leti i sleti a da ga pilot ne takne... Samo je ljudima psihički teško da prihvate da lete avionom u kom nema pilota...ista jr stvar sa kolima

A sta ako je u grupi naslednik Hitlerove ideologije, a u kolima buduci naucnik koji ce naci lek za rak?
Suvise je povrsno posmatranje kvaniteteta, a kvalitet ne moze masina da izracuna. Moja sudbina u mojim rukama. Jezivo banalizovanje ljudske sudbine na osnovu pukog broja.

Pitanje je besmisleno!

neko bi pregazio jednog, neko grupu, u trenutku se to odluci

Auto koji moze da izabere da vozaca odvede u smrt nikad se nece prodavati.

If I have to choose between two evils, I would rather not choose at all. Napravi auto dovoljno sigurnim da u njemu ne moze da se pogine, dok je na autopilotu. Ogranici mu brzinu na 50 km na sat, ili sta god vec. Ojacaj karoseriju, postavi bolje air bagove. Eto, to ja mislim. AI je odlicna stvar, ali je ne mozemo nauciti nesto sto ni sami ne znamo.

A dali ste razmisljali ovako:
Udes je na mostu, naravno iznenadno kocenje, kompjuter proceni da su u vozilu ispred vas 4 osobe, u tom trenutku ne moze da se zaustavi....

1 - Udara u automobil ispred sebe
2 - Skrece naglo desno, udara u ogradu, slece sa mosta ... nema vas.


Kompjuter bi uradio pod brojem 2.
A mi pod brojem 1. ostali bi zivi putnici ispred nas uz manje povrede kao i mi.

Volim kompjutere i nove ehnologije ali nije to za auto, ako je tako programiran. A bice da je tako.

Ovakva pitanja nemaju odgovor. Jer odgovor na takvo pitanje može da da samo onaj ko je već bio u takvoj situaciji. Jednostavno, možete vi misliti o sebi i sopstvenoj etici što god hoćete, ali kako će te reagovati na sličnu situaciju, ne možete sa sigurnošću predvideti.
A što se autopilota tiče, svakako mora bti podešen da prvo čuva putnike, jer inače niko ne bi kupovao auto koji je spreman svesno da ga žrtvuje. A u realnom životu, mali broj vozača bi tek tako pregazio grupu ljudi. Instiktivno bi pokušali da ih zaobiđu, ali to nije svesno žrtvovanje, već odluka koja se donosi u deliću sekunde.

A sta ako je u pitanju sekta koja se baca ispred vozila u cinu grupnog samoubistva?

zavisi kakva je grupa... ako bi birao izmedju 50 huligana koji se šepure na drumu i jednog savesnog pešaka na trotoaru,radije bih zgazio 50 huligana

@meeskec
Zamisli da imas na primer taksi kompaniju. U jednom trenutku ce ti se vise isplatiti da svoje zaposlene zamenis autonomnim vozilima. Sigurno da ih neces pitati da li oni mozda slucajno uzivaju u voznji i zvuku motora i slicno. A po slicnom principu ce citave privrede da idu u tom smeru, sto znaci da cak iako odlucis da zadrzis ljudske radnike, propasces. A naravno i zakoni bi pratili ove trendove, s'obzirom da su autonomna vozila odavno sigurnija od ljudi. I ne radi se o tome da to mozemo da izbegnemo ako bolje edukujemo vozace, jer je nemoguce je da ikako covek bude superiorniji od masine koja uci i koja ima bezbroj senzora itd.

Mozak coveka je "programiran" tako da mu je jako tesko da se svesno zrtvuje... cak iako je osoba resena da se ubije na primer, nesto u svesti ce ga kociti u tome, jer mozak podsvesno stiti sam sebe. Covek ovakve stvari prevazilazi u situacijama kada je npr. ugrozeno njegovo potomstvo, i to je evolutivna karakteristika koja se javlja kod velikog broja zivotinja, i ona obezbedjuje prenosenje gena na novu generaciju. Kao sto rece neko u komentarima ispod mozete da racunate koliko hocete al kad u racunicu ubacite porodicu ili decu... tu radite sta god je potrebno da ih sacuvate.

Mislim da je to uvod u eru u kojoj ce masine moci da ubiju ljude,

jer je to mozda manje los izbor.

Ovakva pitanja su bezpredmetna.
Nemoguće je unapred znati ishod saobraćajne nezgode, niti znati unapred broj žrtava, jer svi učesnici u saobraćaju prave nezavisne odluke. U navedenoj situaciji (koja se inače ne bi desila ako je sistem dovoljno dobar jer ne može grupa ljudi tek tako da se 'stvori' ispred vozila, vozilo bi ih videlo pre nego što uđu u putanju i usporilo) najbolje je uvek zakočiti, što možda neće u potpunosti zaustaviti vozilo pre potencijalnog udarca, ali će dati više vremena pešacima da se sklone i umanjiti potencijalne povrede.

setio sam se čuvenog SF romana I Asimova ' Ja Robot' i njegova 3 pravila robotike:
1. robot ne sme da povredi ljudsko biće niti da svojom neaktivnošću dozvoli da ljudsko biće bude povredjeno;
2. robot mora da izvršava naredjenje ljudskih bića osim ako ona nisu protiv pravila 1;
3. robot mora da štiti svoje postojanje osim ako to nije protiv pravila 1. i 2.;
razmislite da li automobili mogu sami da voze dok ne dobiju veštački mozak sa ovakvim pravilima...

naravno dabih pre izabrao da pregazim jednog coveka nego vise njih ali ovde se radi o necem drugom dali bi svesno zrtvovali sebe i nekog od svoje familije u autu ili par vise ljudi na ulici mislim da niko nije toliko moralan dabi to svesno uradio

Pregazis jednog pa se vadis na grupu...

Pogledajte na yt Justice lecture sa Harvard uni. U epizodi jedan je obradjena upravo ova problematika