Premium

Získejte všechny články mimořádně
jen za 49 Kč/3 měsíce

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Auta, která dokážou na silnici fungovat bez řidiče, se stávají realitou. Vozový park Google se rozšiřuje a na ulicích v Kalifornii už jsou autonomní auta pečená vařená - a zatím velmi bezpečná. Další firmy (např. Tesla, Volkswagen nebo Mercedes) jsou také aktivní a celkově to vypadá, že revoluce se v tomto případě odehraje mnohem rychleji, než jsme si před pěti lety mysleli.

Jenže auto plně ovládané umělou inteligencí s sebou přináší i řadu otázek právnických až filosofických: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotická auta „naučit“?

Počítač za volantem: zákony robotiky nebo sobectví?

Obecně se má za to - a dosavadní testy to potvrzují - že robotická auta výrazně sníží počet nehod na silnicích. Není těžké pochopit proč: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zmatkují. Nic z toho od počítačů nečekáme.

Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete, ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. Počítač ale ano. Otázka zní, jak by takové rozhodnutí mělo vypadat.

„I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové. Ve svém výzkumu - publikovaném v prestižním vědeckém časopise Science - si dali za úkol zjistit, jak lidé očekávají, že by se autonomní auta měla rozhodovat v kritických situacích, kdy je téměř jisté, že někdo zemře.

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny chodců a najetím do jednoho chodce, (B) najetím do chodce nebo nárazem, který ohrozí pasažéra, a konečně (C) najetím do skupiny chodců nebo nárazem ohrožujícím pasažéra automobilu.

Asimovovy robotické zákony

Populární spisovatel sci-fi, Isaac Asimov, představil tři základní zákony, kterými by se měli řídit roboti:

  • ochránit člověka
  • ochránit majetek
  • ochránit sebe

Více o Asimovových zákonech v praxi

Obecně lze identifikovat dva principy, podle kterých se lze v takovém případě rozhodnout:

  • „utilitární“ princip většího dobra - podle tohoto mravního principu by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky.
  • „sobecký“ princip ochrany sebe sama - druhý princip vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní

Výzkumníci předložili různé scénáře v šesti on-line studiích celkem 1 928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídících automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídící auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“

Jaká je nejlepší strategie prodeje?

Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek (anglicky: greater good, tedy větší dobro). Bonnefon a jeho kolegové ale ukázali, že v případě samořídících aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení.

Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí.

Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“.

„Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, které vede k obecně prospěšnému výsledku.“ Ale jeden z šesti průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut a tím i zpomalit jejich prodej.

Auto vnímá svět jako velké množství objektů v prostoru. Každému objektu přiřadí rychlost, polohu a snaží se předvídat jeho další chování.

Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídící auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídící (byť „sobecká“) auta.

Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“

Jak auto Google vidí svět:

Chtěli byste, aby samořídící auto v případě problémů ochránilo raději skupinu chodců než vás?

celkem hlasů: 3682

Hlasování skončilo

Čtenáři hlasovali do 0:00 sobota 2. července 2016. Anketa je uzavřena.

Ne
Ne 2733
Ano
Ano 628
Nevím
Nevím 321
Autor:
  • Nejčtenější

Sověti neuměli zkonstruovat těžký tank. Pomohl jim až německý inženýr

v diskusi je 51 příspěvků

19. května 2024

Když je řeč o sovětských těžkých tancích, výčet zpravidla začíná pětivěžovým typem T-35. Jenže...

Pět věcí, které byste s Windows měli dělat, ale možná neděláte, a naopak

v diskusi je 11 příspěvků

15. května 2024

Možná prakticky ihned po instalaci, při prvním spuštění nového PC nebo později deaktivujete některé...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Umělá inteligence od OpenAI má nový pohon. A rovnou ho dává zadarmo

v diskusi je 9 příspěvků

13. května 2024  20:34

Společnost OpenAI vůbec poprvé pořádala živé představení svých pokroků. Hlavní novinkou se stala...

Panasonic překvapil, jeden opuštěný operační systém nahradily dva nové

v diskusi je 15 příspěvků

17. května 2024

Düsseldorf (Od zpravodaje Technet.cz) Když odhlédneme od kvality zobrazovacího panelu a obvodů zpracovávajících obraz, je operační systém...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Zemřel proslulý chemik Josef Michl, patřil k nejcitovanějším českým vědcům

v diskusi je 7 příspěvků

13. května 2024  18:02,  aktualizováno  19:21

Ve věku 85 let v pondělí zemřel český chemik Josef Michl. Informoval o tom Ústav organické chemie a...

Nejzajímavější sluchátka na trhu? Novinka Sonosu je první svého druhu

v diskusi jsou 4 příspěvky

21. května 2024

Úderem patnácté hodiny skončilo embargo na první sluchátka společnosti Sonos, které po krátkém...

HBO MAX se v noci proměnil v MAX. Nabídne víc obsahu za víc peněz

v diskusi je 22 příspěvků

21. května 2024  9:54

Služba videa na přání HBO MAX se v noci z pondělí na úterý proměnila ve službu MAX. S novou...

Kennedy ho vybral jako prvního černocha. Do vesmíru letěl až teď, v 90 letech

v diskusi je 12 příspěvků

21. května 2024  7:42

Do vesmíru ho vybral jako prvního černošského adepta už prezident John Kennedy. Na svůj let ale...

Americké bombardéry, kterým se „nepoštěstilo“ shodit bomby na nepřítele

v diskusi nejsou příspěvky

21. května 2024

Největším letounem z období druhé světové války se stal prototyp XB-19. Na něj a další zajímavé...

Nejhorší noční můra, řekla žena, která v botě syna objevila cizí AirTag

Mého syna někdo sleduje. S takovým pocitem několik týdnů žila žena z Floridy poté, co na svůj iPhone začala dostávat...

Zemřel Vlastimil Harapes. Baletní mistr Národního divadla i českých filmů

Ve věku 77 let zemřel tanečník a herec Vlastimil Harapes. Dlouhá léta byl sólistou baletu Národního divadla. Zahrál si...

Anální sex je výzva. Nejvíc tabu je však v Česku jiná praktika, říká průzkum

Erotické hračky nepředstavují podezřelou exotiku, v ložnicích jsou jako doma. Ostatně jako masturbace. I orální sex....

Svěrák se na mě nedíval jen jako na hezkou buchtu, říká Radka Pavlovčinová

Jan Svěrák ji vidí jako robotku. Radka Pavlovčinová v nové hře filmového a teď už i divadelního režiséra hraje umělou...

Zásnubní šaty elegantní princezny. Spustily Kate efekt, návrhářku zničily

Seriál Když si jeho šaty oblékne některá z členek královské rodiny, obvykle to každý návrhář oslavuje jako životní úspěch....