Programirani čak i da nas pregaze

Ovo me podseti na vic kad je Mujo na suđenju jer je pregazio 50 ljudi.

- Mujo, zašto si pregazio 50 ljudi?
- Otkazale mi kočnice i ja vidim na jednoj strani grupu od 2 čoveka, na drugoj strani 48. I odlučim ja da se zakucam u ovu dvojicu jer je manja šteta. I tako ti ja udarim onog prvog, ali onaj preostali mi pretrča na drugu stranu...

Uopste nisam razmisljao o ovom problemu. Ali sad kad ga spomenuste...
Znaci idu dva pesaka preko ulice, jedan mora biti zgazen. Da vidimo ishode: u južnom delu USA to ce biti crnac; u severnom verovatno neki kinez ili meksikanac. E sad ako su obe osobe iste rase, onda ce verovatno da bude postedjena zena. Ako su I istog pola, onda ce kompjuter da proveri lekarsku bazu podataka i vidi ko od njih ima tezu bolest i manje sanse da dozivi 80u i njega ce da zgazi.
Genijalno prosto...

A kako mi odlucujemo?

Na kraju svih algoritama, kompjuter će po svaku cenu i bez obzira na broj žrtava, i materijalnu štetu izbegavati zlatne kartice u džepu milionera, ili bilo koji čip koji ga identifikuje sa miliončićima bilo koje banke ili valute. A zahvaljujući osiguravajućim kompanijama, koje će imati veliki udeo u razvoju softvera.

Aman ljudi iskulirajte, ovi pametni automobili ce smanjiti broj saobracajnih nesreca za 99% naravno kad svi automobili postanu pametni. Sto znaci da ce broj pregazenih pesaka umesto 1000 godisnje iznositi 10.

To je isto kao osporavati lek za sidu ako je 1% zarazeni alergican na lek.
(Mozda ne bas najbolje poredjenje al tako nekako)

Velikan SF-a Ray Bradbury je rekao - SF pisci se ne trude da predvide buducnost, vec da je sprece. Upravo to je radio drugi velikan Isak Asimov. U svojim robotskim pricama i romanima je upravo obradjivao ove teme, kako da robot resi dileme biranja manjeg zla. Tako su i nastala 3 Zakona Robotike, a dodat je i Nulti zakon, bas zbog ovih situacija. Prema tome, resenja su vec data.

Gle genija koji je to smislio!

A kada auto pregazi nekoga, ko je onda kriv i ide u zatvor?
Auto?
Vozač, tj onaj ko je bio u kolima?
ili programer k##en?

Super. Setas tako ulicom sa detetom, dva autobusa idu jedan drugom u susret i neizbezno je da se sudare zbog nekog X razloga. Onda jedan "pametni" bus skrene ka tom detetu i pregazi ga, jer je izracunao da ce tako manje ljudi iz autobusa biti ugrozeno. Zamiski poubijas ih sve posle...

Ovo vec zvuci jezivo.

Moram da priznam da sam procitao ceo tekst, a da mi do sada ovakva pitanja nisu padala na pamet.

Najbolje sto ce da strada bajker koji nosi opremu i postuje pravila, tako da kad krenu ova vozila svi skidajte kacige :)

Zaboravljate najvazniju stvar. Najveci broj udesa desava se zbog pijanstva ili neprilagodjene brzine. Roboti ne piju i apsolutno ce voziti po propisanoj brzini. Uvek, bas uvek, moci ce da se zaustavi, bez rizika da ce neko stradati.

Znaci uskoro sa flasom nitroglicerina u setnju ili u kaseti automobila, da budes najveca opasnost u svakom trenutku kako te ovo cudo ne bi zveknulo.

@Nemanja,
a sta bi ti uradio da si vozac? Sta bi uradio da je u tvom busu takodje dvoje dece? Sta ako je troje? Sta ako je jedno, ali bas tvoje dete?

10110001101011011010101101101 ok!

@Petar: Pa i nisi bas u pravu sto se tice Asimova, kada citas ceo serijal Robota, tendencija je ta se roboti na kraju otarase ta tri principa i postanu bica ravnopravna ljudima.

Uostalom, ovde se govori o situaciji kada neko mora da (po proracunima) strada.

hm,nije to samo pitanje morala,sta kad crna macka predje preko puta,..

Odgovor na ovo je lak - auto ce reagovati kocenjem, i pri tome ce racunati najoptimalniji intenzitet kocenja, a vozilo iza ako vozi robot reagovace isto, a pri tome ce imati vise prostora za kocenje. Gore na kolima je matrica sa 40+ laserskih zraka koji rotiraju 15Hz frekvencijom, skoro sve mogu da vide bolje od coveka, a vozilo kad vozi po ogranicenju i covek skoro uvek moze da zaustavi, a robot gotovo sigurno uvek. Brze i bolje. Druga varijanta je proracun optimalne trajektorije za izbegavanje, ako je valjan dinamicki model vozila tada moze da proceni kako najbolje da izbegne udar.

Nek uvedu da se baca kocka - to je najpoštenije i najsličnije realnim uslovima. Posle toga mogu da kažu da nastradala osoba B prosto nije imala sreće ili da je to viša sila - i niko nije kriv. Kao što ni danas često niko nije kriv.

Za 100 godina ce ljudima biti zabranjeno da upravljaju motornim vozilima vec ce iskljucivo kompjuter da upravlja. A mi cemo moci da odemo na neku stazu da se oprobamo itd. Pricace se, nekada je covek vozio automobil. Eto moje prognoze za buducnost.

resenjeove dileme je jednostavno- zdrav razum! covek vozac/vlasnik ostace uvek kao nosilac odgovornosti i na njegovu savest ide ako autopilot uradi nesto! i za sto god bice isto cak kaf i komandni centar povremeno se uplete u preuzimanje voznje...

Ovi kompTjuteri će morati da donose visoko moralne odluke u skladu sa Božjim zakonima ovozemaljskim i onozemaljskim. Toga radi, crkvi našoj mora da se da ovlašćenje da ih isprogramira, jer je crkva naša jedina od Gospoda ovlašćena da propisuje moral ovozemaljski. I sve odluke ovih kompTjutera, ma kakve da su, će biti ispravne i bogougodne, jer je takva Božja volja.

A ako bas tada robot zabaguje i treba mu restart?

Ovo je zanimljivo, jer baš skoro sam čitao članak u kojom se savetuje biciklistima da ne nose šlem jer imaju 80% više šanse da nastradaju u saobraćaju. Ovo se dešava upravo zbog toga što vozači kola rezonuju kao ovaj softver, i često prilaze mnogo bliže biciklistima kada su ovi "bolje" zaštićeni. Od tih 80% samo 30% zaista ima koristi što nosi šlem.
Takodje, ukoliko su bolje zaštićeni ljudi postaju više nemarni, pa otud i veći rizik, jer zaštita stvara privid bolje kontrole.

Nema šta da se smišlja I premišlja kada je NEKO već to smislio TRI ZAKONA ROBOTIKE!

Ko ide u zatvor kada to vozilo zgazi necije dete? Niko?!?

Negine nam skynet jednog dana. :)

Ovakve vesti privlače komentatore manijake.

Autonomna vozila stupaju na scenu iz mnogo razloga, jedan od vecih je - osiguravajuce kuce.

koja ce onda uopste biti draz voznja automobila? za tako mi smo vec u biducnosti,sednes u taxi, bus ili voz i on ide a ti ne radis nista samo se vozis :)

@sandsea

Mozes da naucis da pises binary nije tesko. Ako ti je to zabavno ima na netu sajtova koji 'prevode' iz jednog jezika na drugi... Inace broj karaktera mora biti deljiv sa 8, zamalo da si nesto napisao u stvari, fali ti samo jos jedan broj :)

Sve je to super ali gdje je u svemu tom draz voznje automobila?Roboti i elektronika mjenjaju ljude polako ali sigurno u svim sferama.Dobra stara vremena...

ne pristajem da masina odlucuje o mojoj ili bilo cijoj sudbini. Onog trenutka kada na to pristanemo, necemo vise ni postojati. Terminator ... gledao neko ? nije to bas tako daleko od istine. Jeste da je samosvesnost masina daleko ali dronovi (roboti koji ubijaju ljude po komandi) su vec stvarnost. Ameri prase u Avganistanu sa daljine, za sada dronovima upravljaju ljudi ali ne vidim zbog cega ne bi mogli zameniti ljude algoritmima kada vec sada postoje strateske igre gde racunar igra bolje od coveka ... i jako je tesko pobediti racunar u bilo kojoj taktici.

Jako glup izum koji nece dugo opstati. Zasto? Prvo ljudi uzivaju dok voze kola, zato i velika vecina voli da ih vozi, drugo nikad ni jedan robot a ni program nece moci da odreaguje kao covek jer je na kraju krajeva covek stvorio taj program, i ko garantuje da bas u nekom trenutku pri brzini od 100 na sat taj program nece da zakoci, zastuca i da dodje do haosa.

Ovo je neminovnost u kojoj ćemo se svi jednog dana, već za naših života naći ! Avion pun ljudi, autobus pun ljudi, i sl. ko zna po kom skrivenom algoritmu će stradati nevini ljudi, no bojim se da je to nemoguće izbeći. Mooožda upotrebom open sors rešenja, ali čisto sumnjam !

Jezivo. Kako bi uradili mi ljudi normani i trezni? Pa gledao bih da ne povredim nikoga pa ni sebe! A robot? Pa on ne ceni svoj zivot.

Super. Setas tako ulicom sa detetom, dva autobusa idu jedan drugom u susret i neizbezno je da se sudare zbog nekog X razloga. Onda jedan "pametni" bus skrene ka tom detetu i pregazi ga, jer je izracunao da ce tako manje ljudi iz autobusa biti ugrozeno. Zamiski poubijas ih sve posle...

resenjeove dileme je jednostavno- zdrav razum! covek vozac/vlasnik ostace uvek kao nosilac odgovornosti i na njegovu savest ide ako autopilot uradi nesto! i za sto god bice isto cak kaf i komandni centar povremeno se uplete u preuzimanje voznje...

Zaboravljate najvazniju stvar. Najveci broj udesa desava se zbog pijanstva ili neprilagodjene brzine. Roboti ne piju i apsolutno ce voziti po propisanoj brzini. Uvek, bas uvek, moci ce da se zaustavi, bez rizika da ce neko stradati.

Gle genija koji je to smislio!

A kada auto pregazi nekoga, ko je onda kriv i ide u zatvor?
Auto?
Vozač, tj onaj ko je bio u kolima?
ili programer k##en?

Na kraju svih algoritama, kompjuter će po svaku cenu i bez obzira na broj žrtava, i materijalnu štetu izbegavati zlatne kartice u džepu milionera, ili bilo koji čip koji ga identifikuje sa miliončićima bilo koje banke ili valute. A zahvaljujući osiguravajućim kompanijama, koje će imati veliki udeo u razvoju softvera.

Uopste nisam razmisljao o ovom problemu. Ali sad kad ga spomenuste...
Znaci idu dva pesaka preko ulice, jedan mora biti zgazen. Da vidimo ishode: u južnom delu USA to ce biti crnac; u severnom verovatno neki kinez ili meksikanac. E sad ako su obe osobe iste rase, onda ce verovatno da bude postedjena zena. Ako su I istog pola, onda ce kompjuter da proveri lekarsku bazu podataka i vidi ko od njih ima tezu bolest i manje sanse da dozivi 80u i njega ce da zgazi.
Genijalno prosto...

A kako mi odlucujemo?

Aman ljudi iskulirajte, ovi pametni automobili ce smanjiti broj saobracajnih nesreca za 99% naravno kad svi automobili postanu pametni. Sto znaci da ce broj pregazenih pesaka umesto 1000 godisnje iznositi 10.

To je isto kao osporavati lek za sidu ako je 1% zarazeni alergican na lek.
(Mozda ne bas najbolje poredjenje al tako nekako)

Jako glup izum koji nece dugo opstati. Zasto? Prvo ljudi uzivaju dok voze kola, zato i velika vecina voli da ih vozi, drugo nikad ni jedan robot a ni program nece moci da odreaguje kao covek jer je na kraju krajeva covek stvorio taj program, i ko garantuje da bas u nekom trenutku pri brzini od 100 na sat taj program nece da zakoci, zastuca i da dodje do haosa.

Jezivo. Kako bi uradili mi ljudi normani i trezni? Pa gledao bih da ne povredim nikoga pa ni sebe! A robot? Pa on ne ceni svoj zivot.

ne pristajem da masina odlucuje o mojoj ili bilo cijoj sudbini. Onog trenutka kada na to pristanemo, necemo vise ni postojati. Terminator ... gledao neko ? nije to bas tako daleko od istine. Jeste da je samosvesnost masina daleko ali dronovi (roboti koji ubijaju ljude po komandi) su vec stvarnost. Ameri prase u Avganistanu sa daljine, za sada dronovima upravljaju ljudi ali ne vidim zbog cega ne bi mogli zameniti ljude algoritmima kada vec sada postoje strateske igre gde racunar igra bolje od coveka ... i jako je tesko pobediti racunar u bilo kojoj taktici.

Ovo vec zvuci jezivo.

Ovi kompTjuteri će morati da donose visoko moralne odluke u skladu sa Božjim zakonima ovozemaljskim i onozemaljskim. Toga radi, crkvi našoj mora da se da ovlašćenje da ih isprogramira, jer je crkva naša jedina od Gospoda ovlašćena da propisuje moral ovozemaljski. I sve odluke ovih kompTjutera, ma kakve da su, će biti ispravne i bogougodne, jer je takva Božja volja.

Velikan SF-a Ray Bradbury je rekao - SF pisci se ne trude da predvide buducnost, vec da je sprece. Upravo to je radio drugi velikan Isak Asimov. U svojim robotskim pricama i romanima je upravo obradjivao ove teme, kako da robot resi dileme biranja manjeg zla. Tako su i nastala 3 Zakona Robotike, a dodat je i Nulti zakon, bas zbog ovih situacija. Prema tome, resenja su vec data.

Znaci uskoro sa flasom nitroglicerina u setnju ili u kaseti automobila, da budes najveca opasnost u svakom trenutku kako te ovo cudo ne bi zveknulo.

koja ce onda uopste biti draz voznja automobila? za tako mi smo vec u biducnosti,sednes u taxi, bus ili voz i on ide a ti ne radis nista samo se vozis :)

@Nemanja,
a sta bi ti uradio da si vozac? Sta bi uradio da je u tvom busu takodje dvoje dece? Sta ako je troje? Sta ako je jedno, ali bas tvoje dete?

Ovo je neminovnost u kojoj ćemo se svi jednog dana, već za naših života naći ! Avion pun ljudi, autobus pun ljudi, i sl. ko zna po kom skrivenom algoritmu će stradati nevini ljudi, no bojim se da je to nemoguće izbeći. Mooožda upotrebom open sors rešenja, ali čisto sumnjam !

@Petar: Pa i nisi bas u pravu sto se tice Asimova, kada citas ceo serijal Robota, tendencija je ta se roboti na kraju otarase ta tri principa i postanu bica ravnopravna ljudima.

Uostalom, ovde se govori o situaciji kada neko mora da (po proracunima) strada.

Moram da priznam da sam procitao ceo tekst, a da mi do sada ovakva pitanja nisu padala na pamet.

10110001101011011010101101101 ok!

Najbolje sto ce da strada bajker koji nosi opremu i postuje pravila, tako da kad krenu ova vozila svi skidajte kacige :)

Sve je to super ali gdje je u svemu tom draz voznje automobila?Roboti i elektronika mjenjaju ljude polako ali sigurno u svim sferama.Dobra stara vremena...

Ovakve vesti privlače komentatore manijake.

Odgovor na ovo je lak - auto ce reagovati kocenjem, i pri tome ce racunati najoptimalniji intenzitet kocenja, a vozilo iza ako vozi robot reagovace isto, a pri tome ce imati vise prostora za kocenje. Gore na kolima je matrica sa 40+ laserskih zraka koji rotiraju 15Hz frekvencijom, skoro sve mogu da vide bolje od coveka, a vozilo kad vozi po ogranicenju i covek skoro uvek moze da zaustavi, a robot gotovo sigurno uvek. Brze i bolje. Druga varijanta je proracun optimalne trajektorije za izbegavanje, ako je valjan dinamicki model vozila tada moze da proceni kako najbolje da izbegne udar.

Ovo je zanimljivo, jer baš skoro sam čitao članak u kojom se savetuje biciklistima da ne nose šlem jer imaju 80% više šanse da nastradaju u saobraćaju. Ovo se dešava upravo zbog toga što vozači kola rezonuju kao ovaj softver, i često prilaze mnogo bliže biciklistima kada su ovi "bolje" zaštićeni. Od tih 80% samo 30% zaista ima koristi što nosi šlem.
Takodje, ukoliko su bolje zaštićeni ljudi postaju više nemarni, pa otud i veći rizik, jer zaštita stvara privid bolje kontrole.

Ko ide u zatvor kada to vozilo zgazi necije dete? Niko?!?

Autonomna vozila stupaju na scenu iz mnogo razloga, jedan od vecih je - osiguravajuce kuce.

Nek uvedu da se baca kocka - to je najpoštenije i najsličnije realnim uslovima. Posle toga mogu da kažu da nastradala osoba B prosto nije imala sreće ili da je to viša sila - i niko nije kriv. Kao što ni danas često niko nije kriv.

A ako bas tada robot zabaguje i treba mu restart?

Ovo me podseti na vic kad je Mujo na suđenju jer je pregazio 50 ljudi.

- Mujo, zašto si pregazio 50 ljudi?
- Otkazale mi kočnice i ja vidim na jednoj strani grupu od 2 čoveka, na drugoj strani 48. I odlučim ja da se zakucam u ovu dvojicu jer je manja šteta. I tako ti ja udarim onog prvog, ali onaj preostali mi pretrča na drugu stranu...

Za 100 godina ce ljudima biti zabranjeno da upravljaju motornim vozilima vec ce iskljucivo kompjuter da upravlja. A mi cemo moci da odemo na neku stazu da se oprobamo itd. Pricace se, nekada je covek vozio automobil. Eto moje prognoze za buducnost.

@sandsea

Mozes da naucis da pises binary nije tesko. Ako ti je to zabavno ima na netu sajtova koji 'prevode' iz jednog jezika na drugi... Inace broj karaktera mora biti deljiv sa 8, zamalo da si nesto napisao u stvari, fali ti samo jos jedan broj :)

Nema šta da se smišlja I premišlja kada je NEKO već to smislio TRI ZAKONA ROBOTIKE!

Negine nam skynet jednog dana. :)

hm,nije to samo pitanje morala,sta kad crna macka predje preko puta,..