V automobilu, který se sám řídí, sedí tři lidé. Jeden dospělý muž a dva malí chlapci. Po přechodu na červenou jde jedna dospělá žena a dvě dívky, kdo by měl zemřít? Nejde o nekorektní matematickou úlohu, ale pouze o jednu z mnoha modelových etických otázek, před které vás postaví projekt Moral Machine.
„S rychlým vývojem umělé inteligence přibývají také obavy, jak se budou stroje chovat ve složitých morálních situacích,“ píše se hned v prvním odstavci odborného článku pro časopis Nature, ve kterém skupina vědců z Massachusettského technologického institutu (MIT) publikovala své výsledky sesbírané pomocí jednoduchého internetového dotazníku Moral Machine. Dotazník sice víc než cokoliv jiného připomíná cynickou hru, ve skutečnosti se však snaží odpovědět na složité etické otázky, které budou formovat další vývoj umělé inteligence.
Ve třinácti modelových situacích se účastník stane pánem nad životem a smrtí několika desítek animovaných postaviček. V každé simulaci musí někdo zemřít. Smrtícím nástrojem je vždy autonomně řízené vozidlo. Výzkum sice nepracuje s osobními vztahy, ale zohledňuje kritéria jako věk případných obětí, jejich sociální status nebo zdraví. Některé otázky se týkají i domácích zvířat. A také se zohledňuje, zda chodci přecházejí na zelenou, nebo porušují pravidla.
Záhada: Roboti řídí lépe než lidé. Ale kdo může za to, když nabourají? |
Vědcům se od začátku projektu v roce 2016 nakonec podařilo sehnat rozsáhlý soubor dat. Postupně sesbírali kolem 40 milionů hodnocení od milionů lidí z celého světa. Data z 233 zemí pečlivě zanalyzovali a roztřídili. Výsledky ukázaly, že ne každý člověk má pro ostatní stejnou cenu. To, co při rozhodování je a není důležité, se navíc liší podle jednotlivých regionů.
Nejčastěji by lidé po celém světě chránili dítě v kočárku. Malé děti se celkově umístily na prvních třech příčkách. Lidé se v modelových situacích snažili hájit jejich život nejčastěji. Naopak špatně by dopadli staří lidé. Kdo si může gratulovat, jsou lékaři a lékařky. Hodnotící si jich vážili víc než atletických mužů a žen, předběhli i skupiny manažerů.
Větší šance pro bezdomovce než seniory
Pokud by se veřejné mínění stalo jádrem programu autonomních vozidel, výrazně sníženou šanci na přežití by měli kriminálníci. V celkovém globálním hodnocení skončili jako druzí nejhorší. Předběhli sice poslední kočky, na druhé straně by však lidé častěji zachránili psa než trestance. Nad psy se umístili seniorky a senioři. Jejich kreslené postavičky se stávaly obětmi fiktivních dopravních nehod častěji než lidé bez domova a tlouštíci.
Kulturně se vědcům podařilo oddělit od sebe tři specifické skupiny, které jsou nazvané podle regionů jednoduše jako západní, východní a jižní. Součástí projektu byla i Česká republika. Ta byla zařazena do jižní skupiny společně s Francií, Slovenskem a Maďarskem, ale také Venezuelou nebo Mongolskem. V této skupině vědci pozorovali zvýšenou tendenci zachraňovat ženy nebo lidi v dobré fyzické kondici. Větší šanci na přežití by zde měli oproti dvěma zbylým základním skupinám domácí mazlíčci.
Napříč kulturami se naopak projevila jen slabá tendence preferovat životy chodců nad životy pasažérů v automobilu a jen umírněná snaha zvýhodňovat chodce, kteří se drželi zákona a přecházeli na zelenou.
Dilemata musí vyřešit člověk
Přestože samotný výzkum může působit jen jako zajímavá filosofická hříčka, ve skutečnosti se dotýká citlivého problému, kterým se vývojáři autonomních řídících systémů začínají zabývat.
„Zní to hrozně, ale právě výsledky výzkumu typu Moral Machine třeba ukáží, že rozhodování lidí v situaci, kdy někdo musí zemřít, se řídí pravidly typu ´jedno dítě zachráním radši než tři nebo čtyři starce, ale pokud starců bude osm, preferuji osm životů.´ To znamená, že i když o tom nechceme mluvit, tak jakousi ´převodní tabulku´ v hlavě máme,“ říká profesor Jiří Matas z ČVUT, který se zabývá vývojem autonomních řídících systémů.
Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut |
O tom, jestli budou stroje v budoucnu schopné řešit složitá morální dilemata, Matas nepochybuje. „Problémem je se dohodnout na pravidlech, které pak stroje implementují. Jinými slovy dilemata musí vyřešit člověk, stroj se jimi bude řídit,“ vysvětluje Matas.
Technologická úroveň, při které se stroje mohou dostat do takto složitých situací, je pro odborníky nová. Za vývojem ovšem vždy stojí člověk a stroje jsou přizpůsobovány našim hodnotovým kritériím. „Automobilky implementují to, na čem se společnost dohodne. Projekt typu Moral Machine začne vyjasňovat, co je ve společnosti chápáno jako menší zlo, a z toho vyplynou pravidla chování,“ doplňuje Matas.
K první smrtelné nehodě samořízeného auta došlo v březnu v USA:
22. března 2018 |
