„Šest sekund před nárazem zaznamenal radar vozidla neznámý objekt. Řídící systém nejprve tento objekt identifikoval jako neznámý objekt, pak jako vozidlo a pak jako cyklistu,“ píše se v předběžné zprávě, kterou zveřejnila americká agentura NTSB (PDF). „V čase 1,3 sekundy před nárazem vydal samořídící systém pokyn k okamžitému nouzovému brzdění.“
K nehodě došlo na neosvětleném úseku silnice
Ale pokyn k brzdnému manévru vydán nebyl. Společnost Uber tento typ manévru zakázala, aby „se vozidlo nechovalo nepředvídatelně.“ Zpráva ukazuje i na řadu dalších kroků společnosti Uber, které společně vedly k tomu, že samořídící vozidlo Uber dne 18. března, ve 21:58, způsobilo nehodu, která vejde do dějin jako první smrtelná nehoda samořídícího vozidla.
Osm let a miliony kilometrů bez vážné nehody...
Když se v roce 2010 svět dozvěděl, že společnost Google testuje autonomní auta bez řidičů, byla to zpráva úžasná a znepokojující zároveň. Co se stane, až automobil řízení nikoli člověkem, ale počítačem, někoho zabije? Zdálo se však, že vše jde jako po másle. Google hlásil miliony ujetých kilometrů a jen jednotky drobných nehod, které navíc způsobili lidé, nikoli samořídící systémy. Etické, technické i filosofické otázky se tak řešily spíše v teoretické rovině.
Až do března 2018, kdy testovací samořídící auto firmy Uber porazilo chodkyni v arizonském městě Tempe a ta po převozu do nemocnice svým zraněním podlehla.
Přestože první zveřejněné video podle policie ukazovalo, že pro lidského řidiče - i kdyby dával bedlivý pozor - by bylo nesmírně obtížné takové nehodě zabránit, mnohým takové ubezpečení nestačilo.
Jistě, řidič by měl problém zabránit srážce s chodcem, který v tmavém oblečení a ve tmě přechází silnici na neosvětleném místě. Ale samořídící auto není řidič. Samořídící auto mělo nehodě zabránit. A, jak se ukazuje, mohlo.
Auto Uber mělo takové nehodě bez problémů zabránit
Jak poznamenala už bezprostředně po nehodě redaktorka magazínu Wired: Na videu z nehody auta Uber je vidět přesně taková situace, na kterou jsou samořídící auta stavěná. S tím souhlasí i Steven Shladover, výzkumník z UC Berkeley: „Myslím, že senzory auta měly chodkyni zaznamenat s předstihem. Kdyby se pohybovala nepředvídatelně, tak by to mohl být problém, nic takového ale záznamy neukazují.“
Video z nehody totiž ukazuje jen pohled jedné kamery, té, která ukazuje to, co by přibližně viděl řidič. Auto ale vyhodnocuje informace nejen z této kamery, ale z celé řady dalších senzorů:
- 360° radar zabírá scénu kolem celého vozidla
- Lidar umí vyhodnotit vzdálenost objektů i ve tmě
- 7 kamer zabírá to, co je před vozidlem i kolem vozidla (vlevo a vpravo)
- 3 doplňkové kamery slouží pro vyhodnocování testovací jízdy
Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně 360stupňového radaru, laseru a sedmi kamer
Samořídící auto musí být posuzováno podle jiných kritérií, než lidský řidič |
Posuzovat nehodu „z pohledu řidiče“ je sice na první pohled logické, u samořídícího auta tohoto typu to ale nedává smysl. Způsob vnímání je jiný a jiná jsou i očekávání. Zatímco pro člověka, který by ve spěchu popletl násobení dvouciferných čísel, bychom měli pochopení, kalkulačku, která by se dopustila stejné chyby, bychom odmitli jako špatně naprogramovanou.
Podle předběžné zprávy Národního úřadu pro bezpečnost v dopravě (NTSB) to vypadá, že „kalkulačka“ v samořídícím autě Uber byla nejenom špatně naprogramovaná, ale i špatně a nelogicky nastavená.
Programátoři vypnuli bezpečnostní mechanismy
Vozidlo Volvo XC90, které Uber využívá k testování svého samořídícího systému, je samo o sobě vybaveno několika bezpečnostními mechanismy (tzv. City Safety). Ty jsou schopny detekovat hrozící kolizi a pokusit se jí zabránit. Všechny tyto funkce jsou ale vypnuty ve chvíli, kdy je auto v autonomním režimu.
Podle Uberu závisel systém na „pozorném operátorovi“ |
Společnost Uber uvedla, že jejich systém spoléhá na „pozorného operátora“. Ten má za úkol sledovat situaci a zasáhnout v případě, kdy samořídící systém selže.
Jak už zaznělo v úvodní citaci, společnost Uber vypnula i své vlastní bezpečnostní mechanismy, například nouzové brzdění. Výsledkem bylo, že samořídící auto vidělo překážku a vědělo, že má brzdit. Nic ale neudělalo.
Popis nehody, ke které nemuselo dojít
V čase nehody jelo auto Uber rychlostí 69 km/h, tedy mírně pomaleji, než byl rychlostní limit v dané oblasti. Radar i Lidar zaznamenaly chodkyni (zatím jako neznámý objekt) s předstihem 6 sekund, tedy ze vzdálenosti 115 metrů.
Jak se auto blížilo, palubní systém Uber upřesňoval svou identifikaci tohoto objektu. Neznámý objekt, vozidlo a konečně cyklista. V čase 1,3 sekundy před nárazem bylo jasné, že cyklista je v dráze vozidla, a systém vydal pokyn k okamžitému nouzovému brzdění.
Brzdná dráha auta jedoucího 69 km/h je přibližně 27 metrů. To znamená, že auto - kdyby začalo brzdit včas - by do chodkyně narazilo rychlostí sotva 5 km/h.
Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo kolizní kurz, zbývalo 25 metrů do kolize (1,3 sekundy).
Nouzové brzdění ale, jak zprávy NTSB již víme, bylo vypnuté. Proč jej inženýři Uberu deaktivovali, to můžeme zatím jen spekulovat. Možná systém Uber přerušoval jízdu příliš často. Jak naznačují zprávy z Arizony, operátoři museli přebírat řízení průměrně každých 20 kilometrů, tedy několikrát do hodiny. Ve zprávě NTSB stojí, že „nouzové brzdění bylo vypnuto, aby se zabránilo případnému eratickému chování vozidla.“
Protože auto nemohlo zahájit nouzové řízení, pokračovalo v jízdě. Systém tedy v tuto chvíli věděl, že hrozí kolize, ale nezačal brzdit a dokonce ani nevydal žádné upozornění pro operátora. Podle společnosti Uber měl zkrátka operátor dávat pozor.
Operátorka i chodkyně mohly nehodě zabránit
Operátorka, 44letá žena, zřejmě pozor zcela nedávala. Do řízení zasáhla méně než sekundu před nárazem tím, že vzala za volant (a deaktivovala tak samořídící systém). Brzdit pak začala až po nárazu, ke kterému tak došlo v téměř plné rychlosti 62 km/h. Operátorka uvedla, že sledovala hlášky samořídícího systému. Na základě videa z vozidla se spekulovalo o tom, že používala telefon, to se ale nepotvrdilo, z telefonu prý pouze zavolala záchrannou službu.
Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18. března 2018)
Podle NTSB je z videa z dalších kamer zřejmé, že chodkyně se nerozhlédla ve směru blížícího se auta. Byla oblečena do tmavého oblečení. Jízdní kolo, které vedla, nebylo řádně označeno reflexními prvky po stranách. Mělo sice přední a zadní reflektory a vpředu světlo, tyto prvky ale mířily kolmo k dráze vozidla a nebyly tedy viditelné. Chodkyně navíc přecházela silnici v místě, které nebylo přímo osvětlené pouličními lampami.
Kdo tedy za tragickou nehodu může? NTSB zdůrazňuje, že vyšetřování není u konce. Předběžné závěry ukazují, že nehodě mohla zabránit jak chodkyně, tak operátorka. Zdá se ale nesporné (a ze záznamů zjevné) že nehodě mohl zabránit palubní systém. Měl k tomu všechny prostředky, senzory i dostatečný čas zareagovat. Kvůli těžko pochopitelému nastavení systému ale nezasáhl. Namísto toho, aby samořídící auta Uberu demonstrovala svou hlavní výhodu oproti lidským řidičům, tak konfigurace systému přispěla k historické tragédii.
Oprava: Opravili jsme citaci ze zprávy.
