Samořídící Uber měl 6 sekund na to, aby zabránil smrtelné nehodě. Nesměl

  20:50aktualizováno  20:50
Tragická březnová nehoda, při které autonomní auto společnosti Uber zabilo chodkyni, byla výsledkem naprostého selhání bezpečnostních mechanismů. Auto mělo k dispozici dostatek času i informací na to, aby nehodě zabránilo. Uber ale vypnul některé bezpečnostní prvky a přispěl tak ke smrtelné nehodě.

„Šest sekund před nárazem zaznamenal radar vozidla neznámý objekt. Řídící systém nejprve tento objekt identifikoval jako neznámý objekt, pak jako vozidlo a pak jako cyklistu,“ píše se v předběžné zprávě, kterou zveřejnila americká agentura NTSB (PDF). „V čase 1,3 sekundy před nárazem vydal samořídící systém pokyn k okamžitému nouzovému brzdění.“

K nehodě došlo na neosvětleném úseku silnice

K nehodě došlo na neosvětleném úseku silnice

Ale pokyn k brzdnému manévru vydán nebyl. Společnost Uber tento typ manévru zakázala, aby „se vozidlo nechovalo nepředvídatelně.“ Zpráva ukazuje i na řadu dalších kroků společnosti Uber, které společně vedly k tomu, že samořídící vozidlo Uber dne 18. března, ve 21:58, způsobilo nehodu, která vejde do dějin jako první smrtelná nehoda samořídícího vozidla.

Osm let a miliony kilometrů bez vážné nehody...

Když se v roce 2010 svět dozvěděl, že společnost Google testuje autonomní auta bez řidičů, byla to zpráva úžasná a znepokojující zároveň. Co se stane, až automobil řízení nikoli člověkem, ale počítačem, někoho zabije? Zdálo se však, že vše jde jako po másle. Google hlásil miliony ujetých kilometrů a jen jednotky drobných nehod, které navíc způsobili lidé, nikoli samořídící systémy. Etické, technické i filosofické otázky se tak řešily spíše v teoretické rovině.

Fotogalerie

Až do března 2018, kdy testovací samořídící auto firmy Uber porazilo chodkyni v arizonském městě Tempe a ta po převozu do nemocnice svým zraněním podlehla.

Přestože první zveřejněné video podle policie ukazovalo, že pro lidského řidiče - i kdyby dával bedlivý pozor - by bylo nesmírně obtížné takové nehodě zabránit, mnohým takové ubezpečení nestačilo.

Jistě, řidič by měl problém zabránit srážce s chodcem, který v tmavém oblečení a ve tmě přechází silnici na neosvětleném místě. Ale samořídící auto není řidič. Samořídící auto mělo nehodě zabránit. A, jak se ukazuje, mohlo.

Auto Uber mělo takové nehodě bez problémů zabránit

Jak poznamenala už bezprostředně po nehodě redaktorka magazínu Wired: Na videu z nehody auta Uber je vidět přesně taková situace, na kterou jsou samořídící auta stavěná. S tím souhlasí i Steven Shladover, výzkumník z UC Berkeley: „Myslím, že senzory auta měly chodkyni zaznamenat s předstihem. Kdyby se pohybovala nepředvídatelně, tak by to mohl být problém, nic takového ale záznamy neukazují.“

Video z nehody totiž ukazuje jen pohled jedné kamery, té, která ukazuje to, co by přibližně viděl řidič. Auto ale vyhodnocuje informace nejen z této kamery, ale z celé řady dalších senzorů:

  • 360° radar zabírá scénu kolem celého vozidla
  • Lidar umí vyhodnotit vzdálenost objektů i ve tmě
  • 7 kamer zabírá to, co je před vozidlem i kolem vozidla (vlevo a vpravo)
  • 3 doplňkové kamery slouží pro vyhodnocování testovací jízdy
Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně...

Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně 360stupňového radaru, laseru a sedmi kamer

Samořídící auto musí být posuzováno podle jiných kritérií, než lidský řidič

Posuzovat nehodu „z pohledu řidiče“ je sice na první pohled logické, u samořídícího auta tohoto typu to ale nedává smysl. Způsob vnímání je jiný a jiná jsou i očekávání. Zatímco pro člověka, který by ve spěchu popletl násobení dvouciferných čísel, bychom měli pochopení, kalkulačku, která by se dopustila stejné chyby, bychom odmitli jako špatně naprogramovanou.

Podle předběžné zprávy Národního úřadu pro bezpečnost v dopravě (NTSB) to vypadá, že „kalkulačka“ v samořídícím autě Uber byla nejenom špatně naprogramovaná, ale i špatně a nelogicky nastavená.

Programátoři vypnuli bezpečnostní mechanismy

Vozidlo Volvo XC90, které Uber využívá k testování svého samořídícího systému, je samo o sobě vybaveno několika bezpečnostními mechanismy (tzv. City Safety). Ty jsou schopny detekovat hrozící kolizi a pokusit se jí zabránit. Všechny tyto funkce jsou ale vypnuty ve chvíli, kdy je auto v autonomním režimu.

Podle Uberu závisel systém na „pozorném operátorovi“

Společnost Uber uvedla, že jejich systém spoléhá na „pozorného operátora“. Ten má za úkol sledovat situaci a zasáhnout v případě, kdy samořídící systém selže.

Jak už zaznělo v úvodní citaci, společnost Uber vypnula i své vlastní bezpečnostní mechanismy, například nouzové brzdění. Výsledkem bylo, že samořídící auto vidělo překážku a vědělo, že má brzdit. Nic ale neudělalo.

Popis nehody, ke které nemuselo dojít

V čase nehody jelo auto Uber rychlostí 69 km/h, tedy mírně pomaleji, než byl rychlostní limit v dané oblasti. Radar i Lidar zaznamenaly chodkyni (zatím jako neznámý objekt) s předstihem 6 sekund, tedy ze vzdálenosti 115 metrů.

Jak se auto blížilo, palubní systém Uber upřesňoval svou identifikaci tohoto objektu. Neznámý objekt, vozidlo a konečně cyklista. V čase 1,3 sekundy před nárazem bylo jasné, že cyklista je v dráze vozidla, a systém vydal pokyn k okamžitému nouzovému brzdění. 

Brzdná dráha auta jedoucího 69 km/h je přibližně 27 metrů. To znamená, že auto - kdyby začalo brzdit včas - by do chodkyně narazilo rychlostí sotva 5 km/h.

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo...

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo kolizní kurz, zbývalo 25 metrů do kolize (1,3 sekundy).

Nouzové brzdění ale, jak zprávy NTSB již víme, bylo vypnuté. Proč jej inženýři Uberu deaktivovali, to můžeme zatím jen spekulovat. Možná systém Uber přerušoval jízdu příliš často. Jak naznačují zprávy z Arizony, operátoři museli přebírat řízení průměrně každých 20 kilometrů, tedy několikrát do hodiny. Ve zprávě NTSB stojí, že „nouzové brzdění bylo vypnuto, aby se zabránilo případnému eratickému chování vozidla.“

Protože auto nemohlo zahájit nouzové řízení, pokračovalo v jízdě. Systém tedy v tuto chvíli věděl, že hrozí kolize, ale nezačal brzdit a dokonce ani nevydal žádné upozornění pro operátora. Podle společnosti Uber měl zkrátka operátor dávat pozor.

Operátorka i chodkyně mohly nehodě zabránit

Operátorka, 44letá žena, zřejmě pozor zcela nedávala. Do řízení zasáhla méně než sekundu před nárazem tím, že vzala za volant (a deaktivovala tak samořídící systém). Brzdit pak začala až po nárazu, ke kterému tak došlo v téměř plné rychlosti 62 km/h. Operátorka uvedla, že sledovala hlášky samořídícího systému. Na základě videa z vozidla se spekulovalo o tom, že používala telefon, to se ale nepotvrdilo, z telefonu prý pouze zavolala záchrannou službu.

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18....

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18. března 2018)

Podle NTSB je z videa z dalších kamer zřejmé, že chodkyně se nerozhlédla ve směru blížícího se auta. Byla oblečena do tmavého oblečení. Jízdní kolo, které vedla, nebylo řádně označeno reflexními prvky po stranách. Mělo sice přední a zadní reflektory a vpředu světlo, tyto prvky ale mířily kolmo k dráze vozidla a nebyly tedy viditelné. Chodkyně navíc přecházela silnici v místě, které nebylo přímo osvětlené pouličními lampami.

Kdo tedy za tragickou nehodu může? NTSB zdůrazňuje, že vyšetřování není u konce. Předběžné závěry ukazují, že nehodě mohla zabránit jak chodkyně, tak operátorka. Zdá se ale nesporné (a ze záznamů zjevné) že nehodě mohl zabránit palubní systém. Měl k tomu všechny prostředky, senzory i dostatečný čas zareagovat. Kvůli těžko pochopitelému nastavení systému ale nezasáhl. Namísto toho, aby samořídící auta Uberu demonstrovala svou hlavní výhodu oproti lidským řidičům, tak konfigurace systému přispěla k historické tragédii.

Oprava: Opravili jsme citaci ze zprávy.

Autor:
 

Nejčtenější

Ochranka prezidenta Putina mate GPS. Lodě se přemístily na pevninu

Obrázek ukazuje pozice rušených lodí na letišti ruského města Gelendžik, ležící...

Americká nezisková organizace C4ADS si všimla, že když se ruský prezident Vladimir Putin přiblíží k přístavu, satelitní...

Hodinky, které zachránily astronautům život, když vše ostatní selhalo

Budoucí legenda. Omega Speedmaster za nedlouho těmto hodinkám nikdo neřekne...

Před čtyřiceti devíti lety se ve vesmíru odehrála jedna z nejnapínavějších událostí. Havárie Apolla 13 mohla lehce...

Neuvěřitelné množství chyb! Jako zázrakem většina lidí havárii přežila

Pohled na kokpit, patrný je splasklý skluz. Boeing 707 společnosti BOAC...

Piloti letu BA712 společnosti BOAC udělali koncem šedesátých let jednu fatální chybu. Neaktivovali hasicí zařízení...

Černé díry mohou ovlivnit celé galaxie, řekl astrofyzik v Rozstřelu

Astronom Jiří Svoboda v diskusním pořadu Rozstřel (12. dubna 2019)

Ve středu astronomové z projektu Event Horizon Telescope ukázali vůbec první fotografii černé díry. Co to pro vědu...

OBRAZEM: „Největší“ letadlo světa se vydalo na svůj první let

První let stroje Stratolaunch (13. duben 2019)

Speciální letadlo Stratolaunch, které bude sloužit jako platforma pro vypouštění kosmických raket, absolvovalo v sobotu...

Další z rubriky

Slavné Aero L-29 Delfín porazilo u Moskvy polského i sovětského soka

Aero L-29 Delfin

Letecký průmysl bývalého Československa dokázal vždy přijít s něčím, co vyrazilo světu dech. Jedním z našich...

Neuvěřitelné množství chyb! Jako zázrakem většina lidí havárii přežila

Pohled na kokpit, patrný je splasklý skluz. Boeing 707 společnosti BOAC...

Piloti letu BA712 společnosti BOAC udělali koncem šedesátých let jednu fatální chybu. Neaktivovali hasicí zařízení...

Jak vydělat na boji s oxidem uhličitým? Snad výrobou benzínu ze vzduchu

Podoba navrhovaného projektu firmy Carbon Engineering, který by měl z atmosféry...

Společnost Carbon Engineering dostala od velkých těžařských společností peníze na rozvoj technologie pro získávání...

Jak připravit dítě na očkování, aby nemělo strach z lékaře?
Jak připravit dítě na očkování, aby nemělo strach z lékaře?

Očkování absolvují malé děti v prvních letech života hned několikrát. Zpočátku si to ani neuvědomují, později už mohou mít „vypěstovaný“ strach z toho, že to bude bolet. Nervozita rodičů jim nepřidává. Jak bychom měli své dítě připravit na očkování, aby se nebálo a zvládlo tuto povinnou (a nemilou) událost co nejlépe?

Najdete na iDNES.cz