Neděle 19. ledna 2020, svátek má Doubravka
  • schránka
  • Přihlásit Můj účet
  • Neděle 19. ledna 2020 Doubravka

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

aktualizováno 
Jak se má počítač rozhodnout v případě, že nelze zabránit ztrátám na životě? Vědci zkoumali vnímání klasického etického dilematu. První část výsledků je celkem očekávatelná: lidé chtějí, aby auta dělala etická rozhodnutí, pokud nejde o život zrovna jim. Důsledky tohoto měření jsou ale zajímavější.

Auta, která dokážou na silnici fungovat bez řidiče, se stávají realitou. Vozový park Google se rozšiřuje a na ulicích v Kalifornii už jsou autonomní auta pečená vařená - a zatím velmi bezpečná. Další firmy (např. Tesla, Volkswagen nebo Mercedes) jsou také aktivní a celkově to vypadá, že revoluce se v tomto případě odehraje mnohem rychleji, než jsme si před pěti lety mysleli.

Jenže auto plně ovládané umělou inteligencí s sebou přináší i řadu otázek právnických až filosofických: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotická auta „naučit“?

Počítač za volantem: zákony robotiky nebo sobectví?

Fotogalerie

Obecně se má za to - a dosavadní testy to potvrzují - že robotická auta výrazně sníží počet nehod na silnicích. Není těžké pochopit proč: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zmatkují. Nic z toho od počítačů nečekáme.

Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete, ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. Počítač ale ano. Otázka zní, jak by takové rozhodnutí mělo vypadat.

„I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové. Ve svém výzkumu - publikovaném v prestižním vědeckém časopise Science - si dali za úkol zjistit, jak lidé očekávají, že by se autonomní auta měla rozhodovat v kritických situacích, kdy je téměř jisté, že někdo zemře.

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny...

Tři modelové situace: auto se musí rozhodnout mezi (A) najetím do skupiny chodců a najetím do jednoho chodce, (B) najetím do chodce nebo nárazem, který ohrozí pasažéra, a konečně (C) najetím do skupiny chodců nebo nárazem ohrožujícím pasažéra automobilu.

Asimovovy robotické zákony

Populární spisovatel sci-fi, Isaac Asimov, představil tři základní zákony, kterými by se měli řídit roboti:

  • ochránit člověka
  • ochránit majetek
  • ochránit sebe

Více o Asimovových zákonech v praxi

Obecně lze identifikovat dva principy, podle kterých se lze v takovém případě rozhodnout:

  • „utilitární“ princip většího dobra - podle tohoto mravního principu by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky.
  • „sobecký“ princip ochrany sebe sama - druhý princip vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní

Výzkumníci předložili různé scénáře v šesti on-line studiích celkem 1 928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídících automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídící auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“

Jaká je nejlepší strategie prodeje?

Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek (anglicky: greater good, tedy větší dobro). Bonnefon a jeho kolegové ale ukázali, že v případě samořídících aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení.

Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí.

Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“.

„Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, které vede k obecně prospěšnému výsledku.“ Ale jeden z šesti průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut a tím i zpomalit jejich prodej.

Google auto

Auto vnímá svět jako velké množství objektů v prostoru. Každému objektu přiřadí rychlost, polohu a snaží se předvídat jeho další chování.

Méně prodaných samořídících aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídící auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídící (byť „sobecká“) auta.

Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“

Jak auto Google vidí svět:

Chtěli byste, aby samořídící auto v případě problémů ochránilo raději skupinu chodců než vás?

celkem hlasů: 3682

Hlasování skončilo

Čtenáři hlasovali do 0:00 2. července 2016. Anketa je uzavřena.

Ne 2733
Ano 628
Nevím 321
Autor:

Přechod na DVB-T2

Od 27. 11. probíhá postupný přechod na vysílací standard DVB-T2. Proces by měl být dokončen do poloviny roku 2020. Diváci si tak musí pořídit televizi s podporou kódování H.265 (HEVC) nebo starší televizi doplnit vhodným set-top boxem.

  • Nejčtenější

Jako atomovka, ale bez radiace. Českému vědci nedá spát záhadný výbuch

Geofyzik Günter Kletetschka je v tuzemském prostředí fenomén. Svérázný vědec třináct let působil v NASA a také nyní se...

Windows 7 končí a s nimi jedna éra. Uživatelé stojí před těžkým rozhodnutím

Windows 7 uzavírá generaci operačních systémů Microsoftu, které zvládly bez omezení fungovat bez připojení k internetu,...

Premium

Proč vyhraje vodík. Vynálezce Tůma má o budoucnosti automobilů jasno

Už před dvaceti lety se projel vodíkovým autem, kterým chtějí Japonci na letošní olympiádě v Tokiu propagovat...

Opravte si Windows 10. Kritickou chybu objevila americká tajná služba

Microsoft a NSA doporučují urychleně aplikovat záplatu na kritickou zranitelnost ve Windows 10 a Windows Server...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Premium

Nové televizory promění domácnosti. Velké novinky přijdou již letos

Výběr nového televizoru bude stále obtížnější disciplínou. Vznikají nové zobrazovací technologie i koncepty televizorů,...

Premium

Ve škole byla terčem posměchu. Dnes džihádistka Kristýna nenávidí i matku

Plánuje zabíjet. Soudí ji jako uprchlou. Žena z Mělnicka měla problémy s rodiči i spolužáky. Pětadvacetiletá Kristýna...

Premium

Převratná metoda z IKEM: jak zhubnout přeprogramováním metabolismu

Lékař Marek Beneš je už třetím rokem vedoucím lékařem projektu, při kterém se pomocí laseru „oslepí“ nervové buňky...

Premium

TEST: Vyplatí se benzin, hybrid, nebo diesel? Spočítali jsme to

Auto máte vybrané, co mu ale dát pod kapotu, aby vás provoz vyšel co nejlevněji – klasický benzin, úsporný diesel, nebo...

  • Další z rubriky
Premium

Sestřelené letadlo? Sami si ověřte pravost anonymního videa z Íránu

Tvar budov, pozice pouličního osvětlení, směr a rychlost letadla. Podívejte se, jak jsme ověřovali pravost íránského...

Dokonale zabalený dárek? Spočítáme vám, kdy je virální šikmá metoda lepší

Po webu se i letos šíří tip na „revoluční“ metodu, podle které lze dárky zabalit efektivněji. Podívali jsme se na šikmé...

Válečné útoky i tragické omyly: Civilní letadla nemají proti střele šanci

Podle informací západních politiků je pravděpodobné, že ukrajinské letadlo u Teheránu spadlo po zásahu řízenou střelou...

S novým zámkem Netatmo si náhradní klíče vyrobíte sami

Když jdete běhat, můžete nechat klíče doma, odemknete i telefonem. Pokud návštěva dorazí dřív než vy, můžete jí klíč...

ROZHOVOR: Rozvod si můžete zjednodušit s pomocí mediátorky
ROZHOVOR: Rozvod si můžete zjednodušit s pomocí mediátorky

V současné době se zdá, že udržet si manželský vztah, je stále těžší. Pokud je rozvod nevyhnutelný, pomoci může mediace. Tou se zabývá Mgr. Eva Vaňková, která působí jako rozvodová mediátorka a advokátka.

Najdete na iDNES.cz