Autonomna vozila možda će biti programirana i da ubiju?

Cak i pri racionalnom pristupu, po meni nije u redu sve svoditi na brojke i bitno je i cija je krivica za nastalu situaciju, a s obzirom da auto sigurno ne moze da proceni ko je kriv, nekako je najlogicnije da cuva svog gazdu. Na primer, da mi dve budale iskoce pred auto van pesackog jer su previse zauzete svojim telefonima, bilo bi apsolutno neopravdano da moj zivot bude zrtvovan.

Praksa će pokazati da su ovi sa milionskim računima alfa prioritet i kao pešaci i kao putnici u svakoj budućoj situaciji, a ostalo šta brzina procesora i softver uradi-uradi.

Prvi zakon robotike Isaka Asimova:
Robot NE SME da povredi ljudsko biće.

Dakle, batalite potpuno automatizovane auto-robote. Ili budite suočeni sa milionskim tužbama kad robot ubije nekoga.

Prilikom odlucivanja auto ce prvo proveriti online bank account svih ucesnika a onda odrediti koji je predvidjen da umre tog momenta

Zakoni robotike ce se menjati i biti ce da ce roboti birati tako da na tren ulete u bankovni konto i pogube siromasnijeg coveka. Grofovi i kmetovi. Naivnost ubija...

Msilim da je prirodnije da sacuva putnike, pesak je ionako nepravilno iskocio na put. Uostalom, svrha automatizovanog vozila je da bezbedno preveze putnike.

Rešenje je prosto: ukoliko su pešaci izašli na kolovoz van pešačkog prelaza, žrtvovati njih. Vozilo će svakako usporiti kad prilazi pešačkom prelazu pa samim tim ovakak scenario skoro i da nije moguć. U svakom slučaju, ako sva vozila budu automatizovana, nesreće će se dešavati na nivou statističke greške i drumski saobraćaj bi postao najsigurniji.

Pa resenje je prosto. Ukoliko je nesreca (proklizavanje na putu) onda 50-50
Ukoliko je krivac neko drugi, onda njemu 0.
Ali ja mislim da ce se vise na tu temu pricati, kada neki protivnik politickog rezima "slucajno" sleti sa puta

Ovo pitanje je prvi postavio Jeremy Clarkson u zadnjem serijalu Top Gear-a...

Ja to vozit necu. A kompjuter nek bira izmedju vas i pesaka slobodno.

Pre samo par nedelja hakeri su hakovali Jeep Cherokee i survali ga u kanal kao test da pokazu kako je moguce to uraditi. Opet neki tinejdzer je provalio u E-mail direktora americke obavestajne agencije. Pa hakovanje autonomnih automobila ce biti decija igra za hakere. Treba ti auto, pronadjes ga i posaljes na svoju adresu. Najstrasnije je sto je napredak nemoguce spreciti, mozemo se samo boriti sa posledicama i nadati se da ipak nece biti zloupotrebljen ali kolateralne stete ce biti, u to ne treba sumnjati.

(Aiii, 28. oktobar 2015 12:32)

Kako god, robotima nije mesto tamo gde bi odlučivali o sudbini ljudi.

@ja ...niti smije da, uzdrzavanjem od djelovanja, dopusti da ljudsko bice bude povrijedjeno. Upravo ovaj jako bitan dio Prvog zakona (koji si izostavio i time ga efektivno obesmislio) donosi ovu dilemu. Sta ako se samim postovanjem tog zakona robot dovede u situaciju da bira? Kako ce izabrati nesto sto se kosi sa njegovim ustrojstvom a ostavljeno mu je da bira izmedju dva zla koja ne moze izabrati?

Baš me zanima kako bi izabrao robot u situaciji u kojoj sam se ja našao danas:

- Novi Beograd, vozim oko 50 km/h uskom ulicom s dve trake prema raskrsnici sa semaforom, meni normalno zeleno. Pored semafora, na desnoj strani, na pešačkom prelazu stoji žena i čeka da se njoj upali zeleno.

- Stižem na otprlike 5-6 metara od semafora, kad moje zeleno počinje da trepće. Ja malo ubrzavam.

- U tom trenutku, ali baš niotkuda, sa LEVE strane na prelaz iskače - i to bukvalno! - idiot koji nešto žustro priča na mobilni i gleda u zemlju!

- Naglo i maksimalno kočim, ali sam ipak suviše blizu.

- Pitam se šta da radim: ako cimnem volan nadesno, verovatno ću izbeći idiota, ali uz solidnu šansu da udarim u stub semafora i ženu koja stoji pored njega; ako nastavim pravo, pokupiću idiota.

- Dok sam ja tako procenjivao šta bi bila manja šteta, idiot je ipak blagoizvoleo da pogleda oko sebe. Na njegovu, a i moju sreću, imao je dovoljno pameti da u sekundi ukapira šta se dešava, a bio je i dovoljno dugonog da u dva koraka skoči do semafora, što mi je omogućilo da ga izbegnem.

- Naravno, legnem na sirenu i pomenem mu ceo ženski familije. Ipak je za trenutak prestao da priča na j*** mobilni...

Ja to vozit necu. A kompjuter nek bira izmedju vas i pesaka slobodno.
(Zoran, 28. oktobar 2015 13:08)

Pa i nećeš ti voziti, kompjuter će :)

Pa i mi smo programirani da "ubijemo". Da sam sam u autu i nalecem na drugi pun auto ili vise pesaka/biciklista, naravno da bih skrenuo s puta makar u banderu/provaliju i sl. Da vozim pun auto i da nalecem na vise pesaka/biciklista opet bih pokusao da izbegnem, jer mi u autu svakako imamo vise sanse. Ako je pun auto u pitanju, onda direktan sudar uz kocenje pa kako bude. A da su npr. pesaci u tunelu (nema skretanja s puta) u obe trake, isao bih na manju grupu/pojedinca kako bih sacuvao vecu i putnike u automobilu.

@Željko
Nisu ga survali nigde napravili su šalu od svega da bi skrenuli pažnju na bezbednost odakle ti ta glupost ?

Apsolutno mislim da ce biti ubistava i na ovaj nacin i to ciljanih, a i kolateralnih. Bice i hakera koji ce se igrati zivotima drugih.

Na ova pitanja će morati da se odgovori relativno brzo, jasnim odgovorima, a to što će automobil biti programiran da nikada ne dođe do nesreće samo po sebi nije dovoljno. Automobil ne kontroliše kretanje i ponašanje drugih učesnika u saobraćaju. Od samoubice koji se baci pod automobil, deteta koje istrči na ulicu, pa do iznenadnih poteza drugih vozača. Čak i sama procena opasnosti za putnike u vozilu nije tek tako jednostavna, dvogodišnje dete ja u daleko većoj opasnosti nego zdrava odrasla osoba. Šta u slučaju kada je potrebno ignorisati automatske parametre? Vozite nekoga u bolnicu i naiđete na ograničenje brzine, a svaki minut je dragocen.

@dule nece Dule. Ta vrsta prevoza me ne zanima. Vozicu ja. Ni automatski menjac ne podnosim.

pitam se sta se desi kada udje u kruzni tok.

Ja to vozit necu. A kompjuter nek bira izmedju vas i pesaka slobodno.

Prvi zakon robotike Isaka Asimova:
Robot NE SME da povredi ljudsko biće.

Dakle, batalite potpuno automatizovane auto-robote. Ili budite suočeni sa milionskim tužbama kad robot ubije nekoga.

Msilim da je prirodnije da sacuva putnike, pesak je ionako nepravilno iskocio na put. Uostalom, svrha automatizovanog vozila je da bezbedno preveze putnike.

Pre samo par nedelja hakeri su hakovali Jeep Cherokee i survali ga u kanal kao test da pokazu kako je moguce to uraditi. Opet neki tinejdzer je provalio u E-mail direktora americke obavestajne agencije. Pa hakovanje autonomnih automobila ce biti decija igra za hakere. Treba ti auto, pronadjes ga i posaljes na svoju adresu. Najstrasnije je sto je napredak nemoguce spreciti, mozemo se samo boriti sa posledicama i nadati se da ipak nece biti zloupotrebljen ali kolateralne stete ce biti, u to ne treba sumnjati.

Praksa će pokazati da su ovi sa milionskim računima alfa prioritet i kao pešaci i kao putnici u svakoj budućoj situaciji, a ostalo šta brzina procesora i softver uradi-uradi.

Rešenje je prosto: ukoliko su pešaci izašli na kolovoz van pešačkog prelaza, žrtvovati njih. Vozilo će svakako usporiti kad prilazi pešačkom prelazu pa samim tim ovakak scenario skoro i da nije moguć. U svakom slučaju, ako sva vozila budu automatizovana, nesreće će se dešavati na nivou statističke greške i drumski saobraćaj bi postao najsigurniji.

(Aiii, 28. oktobar 2015 12:32)

Kako god, robotima nije mesto tamo gde bi odlučivali o sudbini ljudi.

pitam se sta se desi kada udje u kruzni tok.

Pa resenje je prosto. Ukoliko je nesreca (proklizavanje na putu) onda 50-50
Ukoliko je krivac neko drugi, onda njemu 0.
Ali ja mislim da ce se vise na tu temu pricati, kada neki protivnik politickog rezima "slucajno" sleti sa puta

Ovo pitanje je prvi postavio Jeremy Clarkson u zadnjem serijalu Top Gear-a...

Prilikom odlucivanja auto ce prvo proveriti online bank account svih ucesnika a onda odrediti koji je predvidjen da umre tog momenta

Zakoni robotike ce se menjati i biti ce da ce roboti birati tako da na tren ulete u bankovni konto i pogube siromasnijeg coveka. Grofovi i kmetovi. Naivnost ubija...

Ja to vozit necu. A kompjuter nek bira izmedju vas i pesaka slobodno.
(Zoran, 28. oktobar 2015 13:08)

Pa i nećeš ti voziti, kompjuter će :)

Cak i pri racionalnom pristupu, po meni nije u redu sve svoditi na brojke i bitno je i cija je krivica za nastalu situaciju, a s obzirom da auto sigurno ne moze da proceni ko je kriv, nekako je najlogicnije da cuva svog gazdu. Na primer, da mi dve budale iskoce pred auto van pesackog jer su previse zauzete svojim telefonima, bilo bi apsolutno neopravdano da moj zivot bude zrtvovan.

Pa i mi smo programirani da "ubijemo". Da sam sam u autu i nalecem na drugi pun auto ili vise pesaka/biciklista, naravno da bih skrenuo s puta makar u banderu/provaliju i sl. Da vozim pun auto i da nalecem na vise pesaka/biciklista opet bih pokusao da izbegnem, jer mi u autu svakako imamo vise sanse. Ako je pun auto u pitanju, onda direktan sudar uz kocenje pa kako bude. A da su npr. pesaci u tunelu (nema skretanja s puta) u obe trake, isao bih na manju grupu/pojedinca kako bih sacuvao vecu i putnike u automobilu.

@Željko
Nisu ga survali nigde napravili su šalu od svega da bi skrenuli pažnju na bezbednost odakle ti ta glupost ?

Baš me zanima kako bi izabrao robot u situaciji u kojoj sam se ja našao danas:

- Novi Beograd, vozim oko 50 km/h uskom ulicom s dve trake prema raskrsnici sa semaforom, meni normalno zeleno. Pored semafora, na desnoj strani, na pešačkom prelazu stoji žena i čeka da se njoj upali zeleno.

- Stižem na otprlike 5-6 metara od semafora, kad moje zeleno počinje da trepće. Ja malo ubrzavam.

- U tom trenutku, ali baš niotkuda, sa LEVE strane na prelaz iskače - i to bukvalno! - idiot koji nešto žustro priča na mobilni i gleda u zemlju!

- Naglo i maksimalno kočim, ali sam ipak suviše blizu.

- Pitam se šta da radim: ako cimnem volan nadesno, verovatno ću izbeći idiota, ali uz solidnu šansu da udarim u stub semafora i ženu koja stoji pored njega; ako nastavim pravo, pokupiću idiota.

- Dok sam ja tako procenjivao šta bi bila manja šteta, idiot je ipak blagoizvoleo da pogleda oko sebe. Na njegovu, a i moju sreću, imao je dovoljno pameti da u sekundi ukapira šta se dešava, a bio je i dovoljno dugonog da u dva koraka skoči do semafora, što mi je omogućilo da ga izbegnem.

- Naravno, legnem na sirenu i pomenem mu ceo ženski familije. Ipak je za trenutak prestao da priča na j*** mobilni...

Apsolutno mislim da ce biti ubistava i na ovaj nacin i to ciljanih, a i kolateralnih. Bice i hakera koji ce se igrati zivotima drugih.

Na ova pitanja će morati da se odgovori relativno brzo, jasnim odgovorima, a to što će automobil biti programiran da nikada ne dođe do nesreće samo po sebi nije dovoljno. Automobil ne kontroliše kretanje i ponašanje drugih učesnika u saobraćaju. Od samoubice koji se baci pod automobil, deteta koje istrči na ulicu, pa do iznenadnih poteza drugih vozača. Čak i sama procena opasnosti za putnike u vozilu nije tek tako jednostavna, dvogodišnje dete ja u daleko većoj opasnosti nego zdrava odrasla osoba. Šta u slučaju kada je potrebno ignorisati automatske parametre? Vozite nekoga u bolnicu i naiđete na ograničenje brzine, a svaki minut je dragocen.

@dule nece Dule. Ta vrsta prevoza me ne zanima. Vozicu ja. Ni automatski menjac ne podnosim.

@ja ...niti smije da, uzdrzavanjem od djelovanja, dopusti da ljudsko bice bude povrijedjeno. Upravo ovaj jako bitan dio Prvog zakona (koji si izostavio i time ga efektivno obesmislio) donosi ovu dilemu. Sta ako se samim postovanjem tog zakona robot dovede u situaciju da bira? Kako ce izabrati nesto sto se kosi sa njegovim ustrojstvom a ostavljeno mu je da bira izmedju dva zla koja ne moze izabrati?