Dětem život, seniorům smrt. Lidé určili, kdo má přežít nehody autonomních aut

  10:14aktualizováno  10:14
Zdá se, že autonomní vozidla se stanou budoucností silniční dopravy. Jak by se ale měly stroje zachovat ve složitých etických situacích? Tuto otázku se snaží zodpovědět studie vědců z MIT. Kdo by přežil a kdo ne, pokud by místo umělé inteligence rozhodovalo veřejné mínění?

Autonomní vozy sledují situaci kolem sebe pomocí radarů, lidarů, kamer a ultrazvukových senzorů. | foto: Volvo

V automobilu, který se sám řídí, sedí tři lidé. Jeden dospělý muž a dva malí chlapci. Po přechodu na červenou jde jedna dospělá žena a dvě dívky, kdo by měl zemřít? Nejde o nekorektní matematickou úlohu, ale pouze o jednu z mnoha modelových etických otázek, před které vás postaví projekt Moral Machine.

„S rychlým vývojem umělé inteligence přibývají také obavy, jak se budou stroje chovat ve složitých morálních situacích,“ píše se hned v prvním odstavci odborného článku pro časopis Nature, ve kterém skupina vědců z Massachusettského technologického institutu (MIT) publikovala své výsledky sesbírané pomocí jednoduchého internetového dotazníku Moral Machine. Dotazník sice víc než cokoliv jiného připomíná cynickou hru, ve skutečnosti se však snaží odpovědět na složité etické otázky, které budou formovat další vývoj umělé inteligence.

Ve třinácti modelových situacích se účastník stane pánem nad životem a smrtí několika desítek animovaných postaviček. V každé simulaci musí někdo zemřít. Smrtícím nástrojem je vždy autonomně řízené vozidlo. Výzkum sice nepracuje s osobními vztahy, ale zohledňuje kritéria jako věk případných obětí, jejich sociální status nebo zdraví. Některé otázky se týkají i domácích zvířat. A také se zohledňuje, zda chodci přecházejí na zelenou, nebo porušují pravidla.

Záhada: Roboti řídí lépe než lidé. Ale kdo může za to, když nabourají?

Vědcům se od začátku projektu v roce 2016 nakonec podařilo sehnat rozsáhlý soubor dat. Postupně sesbírali kolem 40 milionů hodnocení od milionů lidí z celého světa. Data z 233 zemí pečlivě zanalyzovali a roztřídili. Výsledky ukázaly, že ne každý člověk má pro ostatní stejnou cenu. To, co při rozhodování je a není důležité, se navíc liší podle jednotlivých regionů.

Nejčastěji by lidé po celém světě chránili dítě v kočárku. Malé děti se celkově umístily na prvních třech příčkách. Lidé se v modelových situacích snažili hájit jejich život nejčastěji. Naopak špatně by dopadli staří lidé. Kdo si může gratulovat, jsou lékaři a lékařky. Hodnotící si jich vážili víc než atletických mužů a žen, předběhli i skupiny manažerů.

Větší šance pro bezdomovce než seniory

Pokud by se veřejné mínění stalo jádrem programu autonomních vozidel, výrazně sníženou šanci na přežití by měli kriminálníci. V celkovém globálním hodnocení skončili jako druzí nejhorší. Předběhli sice poslední kočky, na druhé straně by však lidé častěji zachránili psa než trestance. Nad psy se umístili seniorky a senioři. Jejich kreslené postavičky se stávaly obětmi fiktivních dopravních nehod častěji než lidé bez domova a tlouštíci.

Kulturně se vědcům podařilo oddělit od sebe tři specifické skupiny, které jsou nazvané podle regionů jednoduše jako západní, východní a jižní. Součástí projektu byla i Česká republika. Ta byla zařazena do jižní skupiny společně s Francií, Slovenskem a Maďarskem, ale také Venezuelou nebo Mongolskem. V této skupině vědci pozorovali zvýšenou tendenci zachraňovat ženy nebo lidi v dobré fyzické kondici. Větší šanci na přežití by zde měli oproti dvěma zbylým základním skupinám domácí mazlíčci.

Napříč kulturami se naopak projevila jen slabá tendence preferovat životy chodců nad životy pasažérů v automobilu a jen umírněná snaha zvýhodňovat chodce, kteří se drželi zákona a přecházeli na zelenou.

Dilemata musí vyřešit člověk

Přestože samotný výzkum může působit jen jako zajímavá filosofická hříčka, ve skutečnosti se dotýká citlivého problému, kterým se vývojáři autonomních řídících systémů začínají zabývat. 

„Zní to hrozně, ale právě výsledky výzkumu typu Moral Machine třeba ukáží, že rozhodování lidí v situaci, kdy někdo musí zemřít, se řídí pravidly typu ´jedno dítě zachráním radši než tři nebo čtyři starce, ale pokud starců bude osm, preferuji osm životů.´ To znamená, že i když o tom nechceme mluvit, tak jakousi ´převodní tabulku´ v hlavě máme,“ říká profesor Jiří Matas z ČVUT, který se zabývá vývojem autonomních řídících systémů.

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

O tom, jestli budou stroje v budoucnu schopné řešit složitá morální dilemata, Matas nepochybuje. „Problémem je se dohodnout na pravidlech, které pak stroje implementují. Jinými slovy dilemata musí vyřešit člověk, stroj se jimi bude řídit,“ vysvětluje Matas. 

Technologická úroveň, při které se stroje mohou dostat do takto složitých situací, je pro odborníky nová. Za vývojem ovšem vždy stojí člověk a stroje jsou přizpůsobovány našim hodnotovým kritériím. „Automobilky implementují to, na čem se společnost dohodne. Projekt typu Moral Machine začne vyjasňovat, co je ve společnosti chápáno jako menší zlo, a z toho vyplynou pravidla chování,“ doplňuje Matas.

K první smrtelné nehodě samořízeného auta došlo v březnu v USA:


Hlavní zprávy

Nejčtenější

Češi stáli tři dny u dálnice v Polsku a čekali na pomoc. Porouchalo se jim auto

Čeští turisté, kteří čekali v Polsku na pomoc.

Pětičlenná rodina z Náchoda na svou cestu z dovolené jen tak nezapomene. Při cestě od Baltského moře se jí v Polsku...

Muslimky si máčely nohy v pítku Vřídla, vzbudily pohoršení a debatu

Snímek zachycující dvě cizinky, které si omývají nohy v pítku karlovarského...

Bouři nevole vzbudil snímek z Facebooku, na němž si dvě muslimky umývají nohy v pítku Vřídelní kolonády. Část...

Teenager přišel při protestu o oči, jeho obličej zasáhlo 52 gumových broků

Šestnáctiletý Rufo Chacon zraněný při střetu demonstrantů s...

Šestnáctiletý Rufo Chacón začíná zapomínat, jak vypadají barvy. Teenager přišel před čtrnácti dny o oči během protestu...

NATO omylem vyzradilo, v kterých zemích a na jakých základnách má atomovky

Americké jaderné zbraně v Evropě

Dokument, který na internetu uvedl, co neměl, je už zase stažen. Ale už je to venku: pět zemí, šest základen, na nich...

Zavraždil přítelkyni a fotky mrtvoly zveřejnil. Instagram je neumí smazat

Sedmnáctiletá Bianca Devinsová, kterou zavraždil její přítel a snímky mrtvoly...

Instagram má problémy s odstraněním explicitních fotografií těla sedmnáctileté středoškolačky, kterou v neděli večer...

Další z rubriky

Česko rozpálí tropická výheň. Mnohde bude 31 stupňů Celsia, ve středu k 35

Svítání nad Pražským hradem o horkém dni 26. června 2019

Většinu republiky rozpálí v těchto dnech tropická výheň. V úterý odpoledne teploty místy překonají 31 stupňů Celsia, od...

Zoufalství na dálnici. Sedíte a brečíte, vypráví manželé o nocích v Polsku

Eva Ševcová s manželem Janem. Celou cestu do Polska a zpět byla za volantem...

Měla to být vysněná dovolená. Kvůli porouchanému autu se z ní však stal horor. Pětičlenná rodina uvízla na polské...

Předseda DSSS přál primátorovi defenestraci. Nadsázka, mírnil později

Tomáš Vandas (DSSS)

Blížícího se výročí 600 let první pražské defenestrace využil předseda Dělnické strany Tomáš Vandas, aby se opřel do...

MetLife Europe Limited, pobočka pro Českou republiku
Manažer/ka pro skupinu obchodních poradců, Jihlava

MetLife Europe Limited, pobočka pro Českou republiku
Kraj Vysočina
nabízený plat: 40 000 - 80 000 Kč

Najdete na iDNES.cz