Na podzim 2010 se svět dozvěděl, že programátoři a inženýři zdolali další milník umělé inteligence. Speciálně upravené auto společnosti Google dokáže jezdit bez zásahu řidiče v plném provozu. Krátce nato americký stát Nevada přítomnost "automatizovaných aut" (self-driving cars) posvětil zákonem, jako další následovala Kalifornie.
Robotická auta by se mohla prodávat už za pět let. Pokud to umožní legislativa. |
Google předpokládá, že auta bez řidičů by se mohla na trhu objevit už za tři až pět let. "Zatím není jisté, v jaké formě tento produkt uvolníme," uvedl pro Washington Post projektový manažer Googlu Anthony Levandowski. Google zřejmě bude dodávat technologii pro auta bez řidiče výrobcům automobilů. Brzdou by se mohla stát legislativa, která zatím na prodej robotických aut není připravena.
Prototypy Google aut zatím najezdily bez řidiče více než půl milionu kilometrů v reálném provozu, a to bez jediné nehody. Vybraní novináři si postupně mohli robotické auto vyzkoušet a byli vesměs fascinováni přesným řízením i tím, jak kompletní má auto přehled o svém okolí.
Jak robotické auto vidí svět?Automaticky řízený automobil musí umět rozpoznávat statické i pohybující se předměty, odhadnout jejich dráhu, a vyhnout se tak potenciální kolizi. Na počítačových modelech jsou tyto predikce znázorněny kvádrovým prostorem, který je pro robotické auto v tu chvíli "tabu".   Jak automatické auto Google vidí svět. Technicky je robotické "vidění" realizováno celou řadou senzorů, od kamer až po LIDAR - laserový radar. Samotný radar je nejdražší součástka v automatickém autě. Zvyšuje jeho cenu o 70 tisíc dolarů (přes 1,3 milionu korun). Celkově stojí vybavení, které dělá z obyčejné Toyoty Prius automatické Google auto, asi 150 tisíc dolarů (téměř tři miliony korun). |
Kamery a další senzory hlídají okolí auta mnohem přesněji, než by to dokázal člověk. Umělá inteligence předvídá cokoliv, co by se v provozu mohlo přihodit, a reguluje rychlost i směr jízdy tak, aby auto neohrozilo a neomezilo ostatní účastníky provozu.
Legislativa aut bez řidičůKdyž začínala na konci 19. století jezdit auta, musel je podle britského zákona z roku 1865 doprovázet člověk mávající varovným praporkem. Dnešní legislativa je k experimentům na ulici trochu příznivější. Od března 2012 mohou auta bez řidiče legálně jezdit v Nevadě. Google tam získal první speciální SPZ pro svůj upravený Prius. Poznávací značka robotického auta je červená a obsahuje symbol ∞ (nekonečno). Podle nevadské legislativy nemusí "řidič" v době, kdy auto řídí počítač, věnovat plnou pozornost provozu, ale nesmí například psát SMS. Florida se omezila na zákonné vyjádření, že "nezakazuje experimenty s auty bez řidiče." Kalifornie, která uzákonila auta bez řidiče v září 2012, přikazuje řidiči "stále sedět za volantem pro případ, že by robotické řízení selhalo a bylo třeba lidského řidiče," což samozřejmě omezuje výhody robotického řízení. zdroj: Legislativa aut bez řidiče (Wikipedia.org) |
Spolu s mechanicky precizním řízením to znamená ohromné zvýšení bezpečnosti, když ani po půl milionu najetých kilometrů robotické auto nenabouralo. Naopak, neustále přesvědčuje všechny, kdo si jej vyzkoušeli, o své dokonalé bezpečnosti.
A to je velký problém.
Lidé jako ostražití instruktoři?
Nikomu se zatím nepodařilo spolehlivě odpovědět na otázku, kdo bude zodpovědný za nehodu způsobenou automaticky řízeným autem. Zákony zatím počítají s plnou zodpovědností řidiče, který se musí "za všech okolností plně věnovat řízení", respektive být kdykoli připraven zasáhnout. Inteligentní auto je tak redukováno na jakýsi velmi sofistikovaný "posilovač řízení". Umožňuje nastavit některé parametry jízdy, ale řidič je i tak musí mít pod kontrolou.
Je však evidentní, že automatická auta si lidé nebudou pořizovat proto, aby čekali s rukama u volantu jako instruktor v autoškole. Řidiči budou chtít čas využít užitečněji a příjemněji: telefonovat, číst knihu, sledovat film nebo psát e-maily. A když se stane nehoda, co pak?
Řidič jako pasažér?
Další hypotetická možnost přirovnává inteligentní auto k taxikáři. Majitel mu řekne, kam chce dojet, a taxikář jej tam doveze. Za případnou nehodu plně zodpovídá taxikář. Pasažér (zákazník, majitel) si během jízdy pochopitelně může číst, telefonovat nebo spát. Při případné nehodě odpovídá za auto taxikář, a v některých případech může být dokonce i samotný zákazník v roli poškozeného.
Na první pohled zní tato možnost rozumně. Rozhodně nejlépe odpovídá sci-fi scénářům o inteligentních autopilotech. Jenže její trhliny jsou ohromné, a sahají nejen do oblasti ekonomie či práva, ale i filosofie a etiky.
- Může být stroj či software právně zodpovědný?
- Může být jeho tvůrce zodpovědný za jednotlivé případy použití stroje či softwaru?
- Jaký je podíl zodpovědnosti jednotlivých lidí a firem, které se na vývoji podílely?
- Může se firma z takové zodpovědnosti vyvázat smlouvou?
- Jak zajistit, aby se lidská chyba nesvedla na stroj?
- Jak zajistit, aby se chyba stroje nesvedla na člověka?
- Může stroj udělat chybný úsudek, který není chybou těch, kdo ho ovládají nebo navrhují?
- Lze odpovědnost stroje řešit speciálním pojištěním, ze kterého by se hradily veškeré náhrady škody?
V současné době se podobné otázky řeší obvykle občansko-právním smluvním ošetřením. Továrna, ve které pracují roboti vedle lidí, má vypracována bezpečnostní pravidla, kterými se zaměstnanci musejí řídit. V případě nehody se pak vyšetřuje, zda je na vině nedodržení postupů, chybně navržené postupy či chyba dodavatele stroje či softwaru.
Továrna je však relativně izolované prostředí, ve kterém lze většinu situací celkem přesně předvídat. Naopak reálný silniční provoz nabízí přehršel těžko očekávatelných situací, které se těžko přesně definují. Občas vyžadují kompromisní rozhodnutí: kde zaparkovat v případě nehody, jak přibrzdit před přechodem, když auto za námi nedodržuje bezpečnou vzdálenost nebo jak se zachovat v případě chybného značení nebo nepřesné mapy. Pokud bude počítač moci v takových situacích rozhodovat, musíme přijmout možnost, že se někdy rozhodně nešťastně. Nebo přinejmenším sporně.
Asimovovy zákony robotiky v praxi
Jako kdyby výše uvedené otázky nestačily, jsou tu další, ještě palčivější. Předpokládejme, že robotické auto se ocitne v situaci, kdy již nelze nehodě zabránit. Zato lze ovlivnit, jakým způsobem nehoda skončí. Strhnout volant doprava znamená pád ze svahu a jasné ohrožení zdraví pasažéra, ale nikdo další zřejmě zraněn nebude. Naopak účinné brzdění sice sníží sílu nárazu, ale pravděpodobně přijde o život řidič protijedoucího motocyklu, který ostatně nebezpečnou situaci pravděpodobně způsobil.
Asimovovy zákony robotikyKaždý fanoušek sci-fi zná způsob, jakým je robotická etika "vyřešená". Jsou jím tři zákony robotiky, kterými se musí umělá inteligence řídit.
zdroj: česká Wikipedia |
V tu chvíli už nedělá robot jen rozhodnutí pravděpodobnostní, ale především etické. Má na to vůbec právo? A kdo nastaví, jakým způsobem se má rozhodnout? Určí toto rozhodnutí výrobce? Nebo uživatel bude moci nastavit "morálku" svého auta podobně jako v Dračím doupěti, od zákonně dobré přes neutrální až po zákonně zlou?
Samozřejmě může auto za každou cenu chránit svého majitele a minimalizovat jeho škodu. To nejspíše nejlépe odpovídá tomu, jak řídí auto většina řidičů. Je však zřejmé, že existují situace, kdy by takové chování bylo přinejmenším pochybné. Představa chladnokrevného stroje, který přejede nepozorného chodce, protože úhybný manévr "by mohl ohrozit jeho majitele", se asi nikomu nelíbí.
Ale opačná představa je podobně děsivá. Auto by v takovém případě mělo za úkol předvídat a posoudit celkové ztráty na životech a majetku, a svými rozhodnutími je minimalizovat. A to "padni komu padni", tedy bez ohledu na to, zda tím zvýhodní majitele nebo někoho jiného. To je samozřejmě velmi šlechetné jednání, které tak nějak očekáváme například u profesionálních pilotů na leteckých přehlídkách. V případě nehody se často snaží odletět se strojem co nejdále od publika, i za cenu osobního ohrožení. Od počítače to však není nic šlechetného, je to prostá kalkulace. Kalkulace, která navíc snadno může být chybná.
Jak poznamenal náš kolega: "Nikdy bych si nekoupil auto, o kterém vím, že mě úmyslně zabije jenom proto, aby nenarazilo do mikrobusu."
Musíme připravit zákony pro počítačová rozhodnutí
Bylo by jednoduché zavrhnout tento problém jako podružný, nepodstatný a statisticky zanedbatelný. Je také pravda, že právní vakuum v tomto případě může i urychlit technologický vývoj, který je zatím téměř neregulovaný. Přesto je zřejmé, že počítače budou mít stále větší rozhodovací zodpovědnosti.
Firma IBM kupříkladu vyvíjí dr. Watsona. To je počítač, který bude pomáhat s určováním komplikované diagnózy u pacientů a dokonce bude doktorům (těm z masa a krve) doporučovat optimální léčebné postupy. Google každodenně vybírá z miliard stránek ty, podle kterých se lidé následně rozhodují, a algoritmus výběru je natolik komplexní, že často překvapí i své tvůrce. Nemluvě například o plánování tras v GPS.
Sergey Brin chválí Google auto bez řidiče
Když Kalifornie schválila robotická auta pro jízdu v běžném silničním provozu, ptali se novináři na řadu otázek ohledně případných nehod. Kdo by prý například zaplatil pokutu, když auto pojede na červenou? Guvernér Brown přiznal, že je potřeba to ještě vyřešit. Sergey Brin, spoluzakladatel Googlu, je obratně a šikovně odbyl bonmotem: "Robotická auta na červenou nejezdí."
Ano, zatím jsou robotická auta ukázněnými a navýsost spolehlivými řidiči. O to rychleji se rozšíří mezi širokou veřejnost. O to dříve se jimi lidé nechají vozit a pozornost budou věnovat všemu, jen ne řízení.
A tím dříve budeme potřebovat skutečné odpovědi, nikoli bonmoty. Zatím totiž i náctiletí fanoušci sci-fi vědí o robotické etice mnohem více, než ti, kteří o ní budou brzy rozhodovat.
