Shared publicly  - 
 
Tohle je post, který pracovně nazývám DILEMA DIGITÁLNÍHO ŘIDIČE. Omlouvám se za délku, ale budu rád, když text dočtete do konce, protože mě zajímá váš názor.

Během posledních několika týdnů jsem četl několik větších článků o autech bez řidiče (mimo jiné byly nedávno zákonem "vpuštěny" na silnice v Nevadě).

Hodně přemýšlím o jedné takové maličkosti. Ale od začátku. Víme, že auta jsou vybavena velmi citlivými senzory a chytrým "mozkem", který všechny vjemy vyhodnocuje. V důsledku toho umožňuje autu velmi bezpečný pohyb po silnici, údajně mnohem bezpečnější, než může nabídnout "živý" řidič (který má jednou hlad, jindy je unavený, případně se hádá s manželkou). Ze statistik vyplývá, že za několik let pokusů zejména v Kalifornii se pouze jednou stalo, že by bylo auto bez řidiče účastníkem dopravní nehody. Způsobil ji ovšem řidič jiného auta.

A tím jsme u toho. Všichni víme, že na silnici jsou situace, kdy se nehodě nedá zabránit. Úlohou řidiče je pak pouze minimalizovat ztráty, případně - eufemisticky řečeno - "optimalizovat" jejich dopad. Brutálně se to dá napsat takto: když se dostanete do situace, že na jedné straně vozovky bude cyklista, a na druhé protijedoucí plně naložený náklaďák jedoucí stovkou, a vy povezete v autě svou rodinu s dětmi ... tak nějak mi z toho vychází, že buď racionálně, anebo instinktivně strhnete volant směrem k cyklistovi. Sorry, kámo!

A já se ptám. Jak jsou v takovém případě naprogramovaná auta bez řidiče? Vyhodnocují situaci tak, aby došlo k nejmenším ztrátám na životech? A když jde o život pasažéra versus život řidiče jiného auta, dává automaticky řízené auto přednost "vlastním" lidem? Jak se počítač rozhoduje? Nebo jinak: Je etické tyto reálie při programování zohlednit?

Vím, můžeme se o realitě jen dohadovat. Takže mě spíš zajímá, jak si myslíte, že by to MĚLO být. Měl by počítač automaticky řízeného auta vědět, kdy má na palubě tři malé děti, a kdy jen jednoho osmdesátiletého důchodce, aby podle toho "optimalizoval" následky nehody?

Omlouvám se za poněkud naturalisticky vykreslené dilema. Ale zajímá mě, co si o tom myslíte, protože o tom sám přemýšlím. Díky!
Translate
38
13
Lukáš Xeelee Findeis's profile photoVojtěch Vyterna's profile photoTom Klíma's profile photoDaniel Merhout's profile photo
95 comments
Translate
 
S automatickým řidičem, který by byl programován pro "optimalizování ztrát" bych asi jezdit nechtěl.. :/
Takovýto systém by měl totálně eliminovat možnost nehody a pokud ne, tak v rámci prodeje bude kopat za domací, nikdo si nekoupí systém, který bude zvažovat hodnotu jeho života a bude upřednostňovat jiné, "víc naložené"..
Translate
Translate
 
Já se domnívám, že jestli má řidič čas uvědomit si, že má na jedné straně plně naložený náklaďák, na druhé cyklistu a v autě veze rodinu s dětmi, tak má i čas zabrzdit a ten počítač k tomu navíc získá nějaké minimálně 2 vteřiny brždění navíc, což by v tomhle případě stačilo.
Ale chápu to jako teoretické zadání - přemýšlel jsem o něčem podobném, ale ne tak brutálním - představte si za horizontem kopce stojící auto. Google vůz to díky těm dvoum vteřinám navíc ubrzdí. Ale chytrý řidič by zároveň věděl, že za ním se určitě brzo vyřítí další auto, které bude mít stejný problém a nejspíš neubrzdí, tj. auto by mělo samo raději třeba sjet z cesty, zamířit si to mezi pruhy či jinak porušit pravidla a třeba se i poškodit, aby zabránilo budoucí škodě, která možná vůbec nemusí vzniknout.
V tom tvém případě myslím, že by měl vůz chránit lidi v autě, ostatně už proto, že nemůže spolehlivě poznat, že to vedle něj je cyklista a ne nějaká jiná překážka a že ten vůz co jede proti nebude odbočovat atp.
Translate
 
Tedy nápadně mi to připomíná známý pokus s vlakem a výhybkou zkoumající jestli by lidé přehodili výhybku a zachránili tak mnoho životů výměnou za jeden včetně morálního aspektu. Také by mě něco takového jako řidiče zajímalo. Ostatně vím jaký je to pocit jet úzkou ulicí když praskne pneumatika a na jedné straně DAF a na druhé chodci. Nedokážu si představit jak by zrovna v US uspěla obhajoba toho, kdo ten systém programuje, ať by jej nechal zhodnotit situaci jakkoli. Vzhledem k tomu jak často se v dané zemi lidé soudí za sebevětší ptákovinu je výrobce nucen riskovat mezi žalobou pozůstalých posádky popřípadě pozůstalých chodců/cyklisty* nehodící se škrtněte. Z toho zase vyplývá moje otázka - jak může takové vědomí zodpovědná osoba ustát?
Translate
 
Mimochodem - ještě hodně dlouho to bude tak, že prostě zodpovědný je řidič. Třeba v tom americkém státě, kde to povolili musí mít stále řidič ruce na volantu. Jen může např. u řízení telefonovat. A řidičovy povely musí mít vždy přednost, tj. jde jen o tu vteřinu až dvě, než si to řidič v hlavně zkalkuluje a v tomto okamžiku bude vůz nejspíš jen brzdit, nebude to nikam točit
Translate
 
+Jan Tesař Ano, to slavné dilema je geniální ... je to mé oblíbené téma v hospodě, když vázne konverzace. Mimochodem, je zajímavé, že sám osciluju mezi oběma řešeními - mám v životě období, kdy tvrdím, že bych samozřejmě výhybku přehodil, abych zachránil x lidských životů versus jeden ... a pak mám zas období, kdy přísahám, že bych se té věci ani nedotkl, abych s tím neměl "nic společného". Geniální, opravdu. Ale nemyslím si, že tady úplně platí to srovnání. Nechci se pouštět do podrobností, spousty věcí určitě nejde naprogramovat, a rozhodne prostě náhoda - ale pokud se bude digitální řidič brát vážně (a já věřím, že ano, že je to otázka času), tak jsem přesvědčen, že při psaní algoritmů tohle dilema prostě vyvstane. Řidič "mého" auta, nebo cizího? A bude to "přísně sřežené tajemství oboru", anebo se prostě řekne, že se takhle auta bez řidiče budou chovat?
Translate
 
+Tomáš Kapler Jistě, teď to tak je, ale podle mě je jen otázkou času, kdy z té "rovnice" řidič vypadne. Jinak by se na tom přece nepracovalo, ne? Spousty desítek miliónů utracených dolarů, a výsledkem bude systém, který bude "řídit" auto jen na poloprázdné a přehledné silnici? A za "volantem" bude mít záložního řidiče, člověka, který ponese veškerou odpovědnost? Tomu nevěřím.
Translate
 
Ono to tak je i v letadlech - můžeš zapnout autopilota a letět celou cestu na něj (a dokonce by dokázal sám i přistát, byť by to nebyl zrovna příjemný zážitek), ale stejně je prostě zodpovědný pilot a musí dávat pozor. Já automatiku u aut vnímám jako zabráněním problémům typu mikrospánek (viz teď ta nehoda), snížená pozornost (telefonování,, pouštění hudby, koukání do mapy atd.), snížení stresu (protože v zásadě se řidič poveze jako spolujezdec, jen si prostě u toho nebude číst/spát, ale povinně bude muset koukat před sebe) a úsporu paliva. Plná automatika pak za pár desítek let, až budou jen automatická auta (nebo silnice vyhrazená pro automatická auta) a všechna auta budou reagovat společně, tj. klidně může jet kolona 1000 aut rychlostí 150km/h 2 metry za sebou a když ten první začne brzdit, tak ve stejný okamžik začnou stejnou rychlostí brzdit všechny ostatní a nenabourají. Žádný výrobce si ale prostě z principu neuváže na sebe bič tím, že by udělal zodpovědným svůj vlastní výrobek, notabene v americe, kde píší i na mikrovlnku, že do ní nesmíte dávat ohřívat domácí zvířata.
Translate
 
+Tomáš Kapler Jsem teď v Americe, byl jsem se speciálně kvůli vám v kuchyni podívat na mikrovlnku, a nic o domácích zvířatech se tam nepíše. To jen na okraj. Ale možná máte pravdu, uvidíme.
Translate
 
ono chytre auto se vubec nemusi ridit tim koho veze. Kdyz bude chytre auto i nakaldak, tak oba zastavi driv nez k nejakemu ohrozeni vubec dojde, a ani tu situaci ktera by nekoho ohrozovala navytvori. Oba mohou navic reagovat tak aby ciklista prezil a autum se nic nestalo. Dale pak staci kdyz se auto bude chovat sobecky a pujde cestou nejmensich skod, nehlede na to kolik kde sedi osob a jakeho jsou veku.
A btw co kdyz na kole pojede opilé dítě? Ma se to taky zohledňovat?
Translate
 
+Tomáš Kapler To si bude uvedomovat i google auto. Jinak souhlasim ze auto by melo uprednostnovat vzdy minimalizaci ztrat. At uz pro svoji posadku nebo okoli. Jestli dokaze uprednostnovat deti to je asi zatim technologicky nepravdepodobne. Ale v budoucnu to tak asi bude.
Translate
 
Jak prosím zní ta úloha s vlakem a vyhybkou?
Translate
 
myslim si ze uprednostnovani kohokoliv by bylo neeticke, uz jen proto ze na kole muze jet mozkovy chirurg, zatimco z vaseho ditete v aute muze byt vrah.
Translate
 
Nechal bych řídit to auto pocitac, jen za předpokladu, že by uz vůbec neridili žádná auta lidé ale jen stroje a byl to propojeny systém. Pak by o sobě náklaďák a auto vědělo mnohem dříve nez by se řidiči mohli jen vidět...
Translate
 
Optimální trasa = minimální následky všech účastníků dopravního provozu, jejichž dopravní prostředky spolu mohou komunikovat. Díky mobilním telefonům s GSM lze za dopravní prostředek schopný komunikovat považovat i chodce.
Translate
 
Jinak myslím, že tohleto prořešil Isaac Asimov durchnaskrz :-)
Translate
 
Ještě k dotazu "Je to etické...?". Etické jednání není žádná antropologická konstanta. Etika je lidská norma. Takže etické je to, na čem se jsme se dohodli, že je etické.
Translate
 
Pokud by byl algoritmus znám, jistě by spousta lidi vozila v aute detske autosedačky a snažila se počítač přesvědčit že má auto plne deti :)
Translate
 
Já si myslím, že by mohl existovat nějaký čip, který by vysílal informace o typu posádky v automobilu. Ale to zas zadrhává v tom, že by si to tak musela posádka nastavit sama. A už vidím, jak si osmdesátiletý děd nakliká šest dětí a těhotnou manželku, aby mu dali ostatní pokoj. Myslím si ale, že se tohle dilema nějak vyřeší. Občas mě totiž překvapí některé nápady, které řeší velkou věc pomocí maličkosti, na kterou bych nikdy nepřišel.
Translate
 
Je nepochybné, že vše směřuje k tomu, aby konkrétní jedinci byli automaticky,stále a jednoznačně lokalizovatelní. Imho, bude za pár let spíš trošku problém auto přinutit, aby nevědělo, kdo v něm sedí.
Translate
 
Program by měl v každém případě pracovat pro přežití lidí ve vozidle, tak jako instinkt řidiče. Zmírnit následky tohoto přirozeného extrému by mohla spolupráce více vozidel na daném místě.
Napadlo mě k tomuto, jestli budou pojišťovny ochotny tyto auta pojišťovat na způsobené následky.
Translate
 
SIce bude provoz nadherne optimalizovanej, ale uz vidim nektery "Nadlidi" jak okamzite zamotaj do legislativy vyjimky pro sebe. Proto by urcite nemelo dojit k tomu ze jedno auto bude ovlivnovat primo auta okolo sebe. Tj. cizi auto by vasemu za zadnych okolnosti nemelo kecat do toho jak se ma vase chovat. Stejne tak jako je spravedlnost slepa, melo by vase auto mit jen informace o tom ze okolo jsou nejaci ucastnici, ale uzby nemelo vedet o tom kdo kde sedi a proste se snazit maximalne snizit skody nevyhnutelne nehody.
Translate
 
Myslím, že to bylo dobře popsáno v knize od Assimova, a častecně taky ve filmu Já, robot.
Translate
 
Jakákoliv úvaha je bezpředmětná, dokud nebudeme znát úroveň počítače, který řídí ten bicykl.
Translate
Translate
 
+zbynek riha ale mohlo by od ostatních aut dostat informace jak které vyhodnocuje situaci a jak bude reagovat. samozřejmě kecat mu do toho nemůžou.
Translate
 
Stejně by první měla přijít fáze, kdy spolu auta začnou komunikovat a tyto informace předávat řidičům.
Translate
 
On ten problém začíná v základu naší odvéké morálky, která říká, že každý lidský život má nekonečnou hodnotu. Tudíž je nepřípustné porovnávat jestli je lepší obětovat toho nebo onoho. Tudíž naše rozhodnutí v těchto otázkách smějí být jedině náhodná :-( (Trochu zjednodušeno)
Jelikož počítače mají snahu se chovat racionálně/nenáhodně, narazíme tady na otázky, kterým jsme se zatím jako celá civilizace dlouho úspěšně vyhýbali.
Translate
 
Otázka i debata je nesmírně zajímavá, ale myslím si, že jedním ze základních momentů k výzkumu digitálních vozidel je právě to, aby takové situace nenastaly.
Automat prostě "vidí" dál, "dívá se a uvažuje" mnohem dál a reaguje mnohem rychleji než živí řidič. Např. sjetí z vozovky a předběžným zapnutím airbagů a utažením pásů je pro posádku a všechny zúčastněné mnohem méně nebezpečné, než jakýkoliv střet.
Translate
 
+Martin Mikala predevsim by kazde auto melo predpokladat ze ostatni jsou hloupá, a tedy se na to nespolehat.
Translate
 
+Tomas Svoboda prave proto ze lide a tedy i jejich zivoty sou si rovni, by to mel byt system slepi k tomu kdo kde je. maximalne se da zohlednit mnostvi ale nic vic. Pak by to dopadlo tak ze by sme se probudili ve svete kde zivot politika bude nad vsechny ostatni.
Translate
 
+Daniel Čermák "Totálně eliminovat nehody" je absolutně nemožné. Takový požadavek nelze vůbec vznášet.
Translate
 
+zbynek riha žijeme ve světě, kde mají různé věci různé hodnoty. Když nic jiného, v síti se budou pohybovat servisní vozidla, hasiči a tak, takže řizení priority je prostě fakt už nyní.
Aby toho někdo nezneužíval si prosím pěkně vyřešte s těmi, koho volíte, či hodláte volit :-)
Translate
 
+Jan Fikáček mnoho organizací má idealistická (tzn. nereálná) poslání. Podle mne je hodně křivek, které mají limitu v nekonečnu, ale lze se jí dost dlouho přibližovat. Mohl by tedy takový požadavek být vznesen, jako limitní ideál? :-)
Translate
 
+David Lobpreis Jo, minimalizovat nehody prosím. Ale bezpečnost mě živí už tolik let, že je mi jasný, že 100% bezpečnost je holý nesmysl.
Translate
 
Já bych byl asi pro to minimalizovat počet obětí a závažných zranění. Asi by se to mělo nechat i široce disktutovat mezi lidmi, ale myslím si, že by se většina na tomhle shodla.
Translate
 
+David Lobpreis s ekonomismem dete, vite kam ;) Clovek neni věc, život není věc. Tou poslední větou jste do mne chtel proste navést, že?
Translate
 
Ad 100% bezpečnost: snížení o 80-90 % je myslím uspokojivým cílem (80/20 ? ;-). Konkrétní počet lidských životů i spojených nákladů (včetně léčení) jsou dostatečně dobré výsledky...
Translate
 
+zbynek riha zdá se, že zastáváte názory, které vypadají jinak než moje... myslíte, že bychom mohli zkusit využít část pátečního dopoledne k tomu, abychom se pokusili racionálně si vyložit podstatu našeho sporu a případně se pokusit definovat pokus, který by náš spor mohl rozhodnout? PS: myslím to upřímně
Translate
 
"A když jde o život pasažéra versus život řidiče jiného auta, dává automaticky řízené auto přednost "vlastním" lidem? "
To potom nechápu jak by to vyhodnotilo... kdyby obě auta davali přednost svým pasažerum, což je asi jasné, tak či tak dojde k nejmenším ztrátám...
Translate
 
+zbynek riha : jestli Vám dobře rozumím, tvrdíte, že pokud se v problému bezpečnosti dopravy vyskytují lidské životy, nelze tyto problémy racionálně řešit?
Translate
 
Vylháváním se z toho nějakou 100% bezpečností je nesmysl. Zajímalo by mě, jaký na tohle budou mít pohled třeba v Číně, kde se na lidský život dívají jinak a jsou ochotni s ním kalkulovat. Když by se pak čínská auta pokoušela v takovém případě životy ohodnotit a nějak to rozseknout, co pak na to Evropa a USA?
Translate
 
Nerad bych odbočoval od tématu, ale když se ptáte "Jak jsou v takovém případě naprogramovaná auta bez řidiče?", pokládáte si obdobnou otázku jako spolujezdec v autě s řidičem?
Translate
 
+Mirek Scholze Moc hezká poznámka. :))) Ale program řidiče nemůžeme během schvíle měnit, to je ten rozdíl. A taky bez jeho souhlasu. :-)
Translate
 
+David Lobpreis resit racionalne to jde, ale melo by se dodrzovat rovnost. Pokud vemu zakladni priklad p. Čermáka, tak pokud pojede na kole prezident nebo papez, tak to nesmi vest k tomu ze zahynou jak osoby v aute tak ridic nakladaku. Minimalizovani ztrat by melo byt slepe k tomu jake sance ma kdo prezit. Aby napriklad nezahynulo pet lidi ve Š120 protoze meli mensi sanci proti manažerovi prazdroje v SUV ;)
Translate
 
Osobně si myslím, že tyto dilemata jsou v podstatě zbytečná. To která varianta rozhodnutí je ta nejlepší se dozvíte až potom, co se nehoda odehraje a ani pak si nemůžete být jisti, zda znáte správnou odpověď. Systém by měl rozhodovat dle kriteria šance na prostupnost. Prostě pokud není na vybranou tak:
1) vždy snižovat rychlost, jak to je jen možné, protože čím menší energie se nehody zúčastní tím lépe.
2) vyberu místo s nejmenší překážkou, protože je větší šance na menší škody.

Další kritéria jsou nesmyslná, protože nikdy nebude dost relevantních informací a času na řešení.
Translate
 
Nějak se nemohu rozhodnout, ale asi by auto mělo kopat za vlastní posádku bez ohledu na složení.
OT: Co kdyby tam místo cyklisty byla školka čekající před přechodem?
A co bych udělal já, kdybych jel svým stávajícím hloupým autem? Fakt bych si to namířil pod náklaďák místo snahy se mu vyhnout i za cenu toho, že smetu dětičky?
Translate
 
Myslím, že takové úvahy jsou naprosto zcestné. Když bude mít auto dost času vyhodnotit že se stane nehoda, tak musí mít dost času zastavit, případně změnit směr jízdy... Navíc by určitě mohlo "mluvit" s ostatními auty a řeklo by to i náklaďáku (který by to ale taky určitě musel vidět)... Takže dilema má jednoduché řešení - auto nebude srážet cyklistu, ani dětičky na přechodě, ale radši sjede ze silnice, popřípadě se domluví s náklaďákem, že z ní sjede on... Navíc k takové situaci by ani nemělo dojít, protože auto nebude přeceňovat své síly, jezdit jako prase, tak že by si nevšimlo, že naproti mu jede náklaďák a cyklista... Myslím, že 99,9% dopravních nehod vzniká kvůli řidiči (a to už jak jeho vinou, nebo třeba mikrospánkem atd..)
Translate
 
Krásné etické dilema :). Myslím, že by auto nemělo mít právo volby nad životy jeho posádky. Je to stroj, a předpokládám, že se nidky nedostaneme tak daleko, aby měl možnost morálního uvažování. Takže rozhodnutí by mělo zůstat na řidiči s tím, že auto by naopak mělo využít svou inteligenci a podle jeho reakcí mu pomoci s manévrem, který se chystá udlět. Jinak samozřejmě základem asi je, že se na silnici nebudou míchat inteligentní auta s normálními řidiči, jak už tu bylo řečeno...
Translate
 
+zbynek riha ok...rozumím. Já tvrdím, že empiricky lze doložit případy kdy vámi požadovaná rovnost neplatí. A snažil jsem se naznačit, že pokud tuto rovnost požadujete, nejlepší způsob jak jí dosáhnout je nějakým způsobem to dostat do zákonů a jiných norem. Určitě bude dobré to dostat i do hlav lidí (a těch algoritmů). Ty normy ale mají výhodu právě v tom, že mohou být i deklarativní.
Translate
 
Anketa: Jsou hodnoty dvou libovolných lidských životů vždy stejné?
Translate
 
Ve smíšeném provozu jsem přesvědčen, že správným řešením je auto, které bude zachraňovat vlastní posádku. Auto, které mě obětuje, aby zachránilo cizí život, bych si nepořídil. Auta, která nikdo nebude chtít se nemohou začít prosazovat.

Dokud do řízení může zasahovat živý řidič, zcela jistě se bude chovat sobecky a nemá cenu, aby se s počítačem musel prát - to by bylo nejspíš to nejhorší řešení.

Ve zcela automatizovaném provozu, který by pochopitelně vzešel ze smíšeného provozu, bych pak předpokládal, že tento trend bude pokračovat. "Nikdo" si ten systém nebude chtít změnit dobrovolně a stát se tak obětním beránkem pro ty, co zachraňují sebe. Pokud to bude nařízeno, bude stejně spousta lidí, kteří to budou mít ohackované. Je nevýhodné, aby se systémy mísily, pak by můj počítač nevěděl, jak se zachová ten druhý a mohl by zcela zbytečně zvolit špatné řešení.
Translate
Translate
 
Mě to dilema s výhybkou přijde podobné v tom, že každému je odpověď zcela jasná. Každému ale jinak :-) Položím proto otázku jinak: Jste v autosalonu. Máte si vybrat mezi dvěma stejnými auty, jediný rozdíl je v nastaveni. Auto A preferuje životy posádky a auto B minimalizuje celkové škody. Které auto si koupíte, abyste v něm mohli vozit rodinu?

Nebo ještě jinak: máte doma inteligentní auto, které má hned u šaltrpáky takový malý přepínač mezi možnostmi A a B. S jakým nastavením budete jezdit?
Translate
 
+Jaroslav Černý vzhledem k tomu, že se domnívám, že každý soud vám cenu poškozených, či zničených životů určí docela rychle, myslím, že veškerá auta B zároveň mohou fungovat jako auta A. :-)
Translate
 
+David Lobpreis si plete urceni vyse odskodneni s cenou zivota, to jsou naprosto nesoumeritelne hodnoty. Cena zivota je nekonecna.
Translate
 
+zbynek riha já jsem intuicionosta. Nepočítám s (aktuálními) nekonečny. Říkáte tedy, že při rozhodování nelze brát v úvahu počet lidských životů, protože jejich hodnotu nelze srovnávat s hodnotou čehokoli jiného?
Translate
Translate
 
+David Lobpreis Nepocitate s nekonecny? Za kolik mi prodate vase dite? Jeden zivot muze mit nekonecnouhodnotu a preci je to slovy jeden zivot ;)
 
Podle mě v takové situaci zapne K.I.T.T. turboboost a efektně přeletí plně naložený kamion!
Translate
 
+Jaroslav Černý U levnějších verzí vozidel by se snadno mohla stát možnost minimálních škod pro majitele vlastně sebevražednou, pokud by se případné srážky měly účastnit vozidla se stejným/podobným obsazením. Levnější to pak může klidně naprat do stromu, než aby to samé udělalo to dražší auto. :)
Translate
 
+Jaroslav Černý myslím, že zatím se tu všichni shodujeme v tom, že materiální ztráty během nehody lze vyčíslit (a předem odhadnout!!!) dost přesně na to, aby šel hledat algoritmus, který je bude schopen v reálném čase minimalizovat. Neshodujeme se v tom, zda lze takto ohodnotit i případné ztráty lidských životů. Snažím se poukázat na fakt, že toto hodnocení běžně provádí soudy, pojišťovny a jiné entity za tímto účelem zřízené.
Translate
Translate
 
+zbynek riha abych to řekl jinak, na to abych uznal, že nějaký problém není matematicky řešitelný nemusím pracovat s nekonečny
Translate
 
Omlouvám se, nenapsal jsem to dost jasně. Jde mi samozřejmě o škody na životech.
Translate
 
Ten myšlenkový rozbor o dilematu náklaďák vs cyklista je jenom takový teoretický cvičení. Ve skutečnosti v okamžicích před nehodou člověk nevyhodnocuje, jestli sedí v autě sám nebo s dětmi. A nedělá analýzu obětí. On se snaží instinktivně odvrátit nehodu. Netrénovaný řidič se šlápne na brzdu a drží dokud nenarazí - to je všechno. Když jde do smyku, automaticky točí volantem na druhou stranu, aby ho vyrovnal. Kdyby proti němu jel náklaďák a bylo trochu času, bude se snažit se vyhnout a je jedno jestli vedle je cyklista nebo jiný auto. Programy v dnešní době jistě taky nic nevyhodnocujou, jedou předpisově a když se proti náhle objeví náklaďák, tak zabrzděj a přesunout auto co nejvíc ke krajnici. Nehrozí, že by to AI třeba strhla ze stráně mimo silnici ve snaze vyhnout se čelnímu střetu. Možná za 20-100 let, až bude fungovat opravdu perfektní rozpoznávání všech objektů v okolí. Rozhodně ale AI taky nedělá žádný výpočty ztrát a podle mě ani nikdy nebude.
Translate
 
+Jaroslav Černý takže Vy si také myslíte, že hodnotu života může sice soud, pojišťovna nebo někdo takový vyčíslit ... ale že tuto hodnotu pak nelze srovnávat s hodnotou ničeho jiného? Třeba budov, aut, atd.?
Translate
 
+David Lobpreis Ano, myslím si, že v případě nehody jsou lidské životy to nejdůležitější a v podstatě by to mělo být jediné kritérium, které se v té chvíli řeší. Protože jsem to považoval za samozřejmé, tak jsem to ve svém postu zapomněl zmínit. Stejně tak se postupuje při záchraných pracech v civilizovaných zemích. Nasadí se všechny dostupné prostředky bez ohledu na náklady dokud je rozumná možnost záchrany byť jediného života.
Translate
 
+Ales Kavka takže "hodnota ztráty" není funkce závislá ani na vlastnostech auta, ani vlastnostech řidiče, ani počtu osob, ani pojištění ani ničem jiném, ale je to (zatím) konstanta?
Translate
 
Navíc pokud vím, tak pojišťovna ani soud nestanovuje cenu nebo hodnotu života. U soudu se jedná o odškodnění odškodnění nebo trestu, což je něco jiného. Pojistit se potom můžete na kolik chcete, pokud na to máte peníze. Tu hodnotu si stanovuje každý sám.
Translate
 
+Jan Fikáček :) Stejně tak by ale nemělo být snadné změnit algoritmus řídící jednotky. I když ... možná se dožijeme doby, kdy na XDA budou CustomROM pro tyto auta. Jen nevím, jestli bych si nějakou flashnul s takovou lehkostí jako do telefonu ;)
Translate
 
+Jaroslav Černý Jak jsem napsal výše, pro mě je jednodušší přijmout imperativ "Nezabiješ" jako fakt. Ty hodnoty lidských životů, které nějak ocenil soud mi ale přijdou dostatečně přesné na to, abych je použil například při modelování těch pojistek, nebo plánech krizového řízení (http://www.google.cz/url?sa=t&rct=j&q=&esrc=s&source=web&cd=4&ved=0CEoQFjAD&url=http%3A%2F%2Fwww.geraldlewis.com%2Fpublications%2Fthe_human.doc&ei=YyVjT6PrE8ewhAebroiICA&usg=AFQjCNGVS3e4DMscGGZdWlleGYvPlx_EbQ&sig2=tf6cIEV9wTqjRwXeE81orQ ).
Co se týče civilizovaných zemí, nevím kam tím míříte, ale doufám, že byste většinu posádky Titaniku označil jako "pocházející z civilizovaných zemí"?
Translate
Translate
 
V té popisované situaci mi jako nejjednodušší kritérium vychází, že se autonomní objekty snaží optimalizovat výsledky pro sebe. Pokud předpokládáme nějakou komunikaci o obsazenosti, pak tento předpoklad by měl vylučovat potřebu sebevražedného řešení. Dalším výsledkem komunikace by mohl být "dohodnutý" způsob bouračky - tzn kamion se s osobákem domluví jak do sebe prásknou, aby byly škody minimální. Nechat rozhodování na systému a povolit mu "ztráty" je asi i legislativně neprůchodné - to by pak mohlo auto i vyhodnocovat zdravotní stav cyklisty (prochlastaná játra) a společenský status vezených osob (člen akademie věd). V etické rovině nemá tato otázka řešení.
V lidské rovině - jak normálně reaguje řidič - asi vždy snahou minimalizovat škody - buď jenom svoje vlastní, nebo všechy mu v tu chvíli známé.
Translate
 
+Jaroslav Černý těžká otázka.... asi by to hodně záleželo na limitech nastavených v rámci zákonů a pojistky za škodu a mé finanční situaci :-)
Translate
 
+David Lobpreis Právě že některé věci tržně řešitelné nejsou, a proto nelze o ceně života hovořit. A ještě jednou to zopakuju, vyčíslení odškodného soudem, jako náhrady, není určením ceny nebo hodnoty života.
Translate
 
+zbynek riha Myslím, že tato diskuse se pohybuje v rovině nezávazného filosofování. Snažím se ale poukázat na to, že jsou situace ve kterých je nutné se rozhodovat. Osobně se snažím rozhodovat tak, aby byl schopen své rozhodnutí vysvětlit. Rozumím správně Vašemu systému "nekonečné hodnoty lidského života", když si myslím, že na otázku zda srazit školáka na kole nebo autobus s více školáky říká, že tuto otázku nelze předem (racionálně) rozhodnout a je tedy potřeba v podstatě spoléhat na instinkt, náhodu nebo nějaké jiné vlivy?
Translate
 
Když už k nehodě dojde, vždycky bude potřeba optimalizovat škody, jak materiální tak na zdraví a životech. Optimalizaci provede nějaký možná průhledný algoritmus. Jak bude nastavený je ale fakt otázka. Pokud si budou všichni rovni, určité obětování na jedné straně, v krajním případě i na zdraví či životech, bude nutné.

Dneska si ale lidi rozhodně rovni nejsou, drahými auty si dokupují bezpečnost na úkor těch, kteří jezdí v autech starých/levných/malých. Budou mít tito možnost za bezpečnost připlácet i dál? Dokoupením nějaké váhy v daném algoritmu ve svůj prospěch? Jsme sice už za hranicí etiky, ale to už dlouho...
Translate
 
Upřímně řečeno i v situaci, že si můžu vybrat mezi čelní srážkou s cyklistou a autobusem doufám, že nebudu jednat pouze instinktivně, ale vezmu v potaz kinetické energie mého vozidla, cyklisty, autobusu, to zda jsem nebo nejsem připoutaný a snad i kvalitu karoserie... :-)
Translate
 
Auto s lepší bezpečnostní výbavou (více airbagů apod,) si koupí člověk, aby ho chránilo v případě nehody. Automatické auto je auto s ještě vyšší bezpečnostní výbavou, takže očekávám, že mě a posádku bude chránit ještě více. Větší nebezpečí by posádce hrozilo od náklaďáku a tak to odnese cyklista. Jinak si takové auto nikdo nekoupí a raději si koupí obrovské SUV, které si bude řídit sám.
Mimochodem, může aauto sject z cesty? Ví, že za krajnicí je svah? Že je tam sloup osvětlení apod?
Translate
 
Když uz jsme u toho asimova, já se více bojím dne, kdy bude pocitac v aute zvažovat, zda-li ma ochránit posádku, nebo sám sebe (protože bude muset mít v sobě algoritmus, který mu bude říkat, která mista a uhly nárazu jsou nejlepší pro ochranu hodnoty auta i osob.
Jinak ad ochrana děti v aute - takove programy dávno existuji, pracuji s výškou (kamera) a hmotnosti osob a nastavují podle toho třeba pasy a airbagy
Translate
 
Tomáš Kapler - toho bych se nebál... posádka (potažmo jakýkoli člověk) bude vždy upřednostněna, robot se sice musí chránit sám před poškozením, ale pouze pokud to není v rozporu s prvním pravidlem a tedy pokud je havárie nevyhnutelná, udělá všechno včetně sebezničení, aby se pokusil dostát prvnímu a nejdůležitějšímu pravidlu :)
Translate
 
nečetl jsem komentáře, ale tohle si auta mouhou vyřešit komunikací mezi sebou. nákladní vůz může vysílat signál, jedu, potřebuji 3m na projetí. osobní automobil přijme signál a spočítá, jestli se vejde do prostoru mezi. vozidlo stějně musí vědět, jak je silnice široká, aby se mohlo držet při kraji? jelikož je překážka na straně osobního automobilu, mělo by přibrzdit nebo zastavit.
priority jsou nepřípustné, takový systém by neřešil současné problémy.
Translate
 
Nemůžou. Aauta a auta budou muset hodně dlouho fungovat současně.
Translate
 
+Jan Matějka Představa, že by měl počítač čekat na volbu lidského řidiče, je zcestná. Přišel by tím o většinu času, ne-li veškerý čas, na minimalizaci ztrát.
+Vladimír Novotný Pokud vím, již dnes mají tyto systémy velice dobrou představu o svém okolí, takže poznají, nakolik bezpečné např. sjet z cesty (viz třeba http://youtu.be/YXylqtEQ0tk?t=5m31s ). Otázka je, jestli rozeznají třeba dřevěný plot od svodidel apod.

Jinak souhlasím s strategií "sobeckého auta". Těžko si představit, že by většina lidí byla ochotna předat řízení vozidla s vědomím, že chladně obětuje jejich životy při záchraně životů jiných. Nicméně jsem přesvědčen, že než se tato technologie dostane do běžné praxe, bude již tak vyspělá, že tato etická otázka bude pouze teoretická (což jí samozřejmě nikterak neubírá na závažnosti, protože se zdaleka netýká jen autonomních vozidel).
Translate
 
Myslím že je potřeba rozlišit tři různé situace:
a) plně automatický provoz (zde lze teoreticky dosáhnout 100% bezpečnosti a dilema tedy nemá smysl)
b) normální provoz kde občas projede automatické auto (zde nebudou techologie ještě tak vyspělé aby poznaly překážku jako cyklistu / školku / patník, vše tedy bude stále na řidiči a auto mu např. může pomoci včasným počátkem brždění apod., jinak toto je ten případ, o kterém se bavíme)
c) automatika je standart a občas někdo projede s volantem (zde ví většina o většině elektronicky a auta si budou "podávat zprávy" o nevypočitatelných překážkách (manuálních autech a cyklistech) a automatika s nimi bude počítat dávno před tím, než se bude schopna sama zaregistrovat, tedy dilema nemá smysl)

A praktické řešení? Souhlasím s teorií o vlastní sobeckosti: platí univerzálně v případě b) bezvýhradně chrání posádku a když se tato teorie rozvede, tak tady v případě c) se mohou domluvit s kamionem, kamion se "posune" na kraj a všichni projedou s mezerou 10cm všichni tři bez úhony (což je z hlediska sobeckosti ideální řešení, protože se mi nic nestalo)
Translate
Translate
 
zajímavé zamyšlení, je jednoduché zúžovat to na rozhodování - zabít cizího nebo vlastního ... samozřejmě jde stanovit algoritmus na prioritizaci ztrát, na začáku kterého by bylo zastavení, následně co nejšetrnější sestřelení onoho cyklisty, například venkovním airbagem a až na posledním místě rozhodování, zda zlikvidovat vlastní nebo cizí... a vzkaz pro ty, kteří říkají, že žádnou prioritizaci nechtějí ... sedněte si do vlastního auta a koukněte na svoje airbagy, kam vystřelují... na vás, na spolujezdce ... a venku jsou? plechy? ... takže neřídíte se tou prioritizací koho eventuelně zabít už nyní? ... btw kolik lidí zohledňuje při koupi auta nové modely, které při srážce vystřelí pedestrian airbagy? volvo Pedestrian Detection outside airbag technology ... dovedu si představit, že Aauta budou kombinovat více úrovní ochrany než jen "zachránit posádku a vykašlat se na okolí", například raději sjedu do příkopu a zničím auto, než abych vytlačil cyklistu do protisměru, atd... což neznamená, že jim fandím, říkám, že je to krok možná správným směrem, který se bude v čase vyvíjet i na základě diskusí jako je tato
Translate
 
Pokud jde o cyklistu nebo bábu na chodníku, přijde mi prostě zcela nevhodný vtahovat do problému někoho dalšího. Když o tom stihne přemýšlet člověk, nejspíš jeho názor bude nakonec stejně hodnotit soud. Tedy v podstatě náhoda, nikoli algoritmus. Pozná auto, jestli děti na palubě jsou dědičně debilní za 275000,- kus podle ceníku odškodnění nebo že po bublanině od báby na chodníku konečně napadne jejího vnuka lék na AIDS? Radši bych to těm autum nekomplikoval, aby nezačaly hloubat ještě nad vlastní hodnotou... KISS
Translate
Add a comment...