Samořídící Uber měl 6 sekund na to, aby zabránil smrtelné nehodě. Nesměl

  20:50aktualizováno  20:50
Tragická březnová nehoda, při které autonomní auto společnosti Uber zabilo chodkyni, byla výsledkem naprostého selhání bezpečnostních mechanismů. Auto mělo k dispozici dostatek času i informací na to, aby nehodě zabránilo. Uber ale vypnul některé bezpečnostní prvky a přispěl tak ke smrtelné nehodě.

„Šest sekund před nárazem zaznamenal radar vozidla neznámý objekt. Řídící systém nejprve tento objekt identifikoval jako neznámý objekt, pak jako vozidlo a pak jako cyklistu,“ píše se v předběžné zprávě, kterou zveřejnila americká agentura NTSB (PDF). „V čase 1,3 sekundy před nárazem vydal samořídící systém pokyn k okamžitému nouzovému brzdění.“

K nehodě došlo na neosvětleném úseku silnice

K nehodě došlo na neosvětleném úseku silnice

Ale pokyn k brzdnému manévru vydán nebyl. Společnost Uber tento typ manévru zakázala, aby „se vozidlo nechovalo nepředvídatelně.“ Zpráva ukazuje i na řadu dalších kroků společnosti Uber, které společně vedly k tomu, že samořídící vozidlo Uber dne 18. března, ve 21:58, způsobilo nehodu, která vejde do dějin jako první smrtelná nehoda samořídícího vozidla.

Osm let a miliony kilometrů bez vážné nehody...

Když se v roce 2010 svět dozvěděl, že společnost Google testuje autonomní auta bez řidičů, byla to zpráva úžasná a znepokojující zároveň. Co se stane, až automobil řízení nikoli člověkem, ale počítačem, někoho zabije? Zdálo se však, že vše jde jako po másle. Google hlásil miliony ujetých kilometrů a jen jednotky drobných nehod, které navíc způsobili lidé, nikoli samořídící systémy. Etické, technické i filosofické otázky se tak řešily spíše v teoretické rovině.

Fotogalerie

Až do března 2018, kdy testovací samořídící auto firmy Uber porazilo chodkyni v arizonském městě Tempe a ta po převozu do nemocnice svým zraněním podlehla.

Přestože první zveřejněné video podle policie ukazovalo, že pro lidského řidiče - i kdyby dával bedlivý pozor - by bylo nesmírně obtížné takové nehodě zabránit, mnohým takové ubezpečení nestačilo.

Jistě, řidič by měl problém zabránit srážce s chodcem, který v tmavém oblečení a ve tmě přechází silnici na neosvětleném místě. Ale samořídící auto není řidič. Samořídící auto mělo nehodě zabránit. A, jak se ukazuje, mohlo.

Auto Uber mělo takové nehodě bez problémů zabránit

Jak poznamenala už bezprostředně po nehodě redaktorka magazínu Wired: Na videu z nehody auta Uber je vidět přesně taková situace, na kterou jsou samořídící auta stavěná. S tím souhlasí i Steven Shladover, výzkumník z UC Berkeley: „Myslím, že senzory auta měly chodkyni zaznamenat s předstihem. Kdyby se pohybovala nepředvídatelně, tak by to mohl být problém, nic takového ale záznamy neukazují.“

Video z nehody totiž ukazuje jen pohled jedné kamery, té, která ukazuje to, co by přibližně viděl řidič. Auto ale vyhodnocuje informace nejen z této kamery, ale z celé řady dalších senzorů:

  • 360° radar zabírá scénu kolem celého vozidla
  • Lidar umí vyhodnotit vzdálenost objektů i ve tmě
  • 7 kamer zabírá to, co je před vozidlem i kolem vozidla (vlevo a vpravo)
  • 3 doplňkové kamery slouží pro vyhodnocování testovací jízdy
Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně...

Samořídící auto Uber je vybaveno celou řadou pokročilých senzorů, včetně 360stupňového radaru, laseru a sedmi kamer

Samořídící auto musí být posuzováno podle jiných kritérií, než lidský řidič

Posuzovat nehodu „z pohledu řidiče“ je sice na první pohled logické, u samořídícího auta tohoto typu to ale nedává smysl. Způsob vnímání je jiný a jiná jsou i očekávání. Zatímco pro člověka, který by ve spěchu popletl násobení dvouciferných čísel, bychom měli pochopení, kalkulačku, která by se dopustila stejné chyby, bychom odmitli jako špatně naprogramovanou.

Podle předběžné zprávy Národního úřadu pro bezpečnost v dopravě (NTSB) to vypadá, že „kalkulačka“ v samořídícím autě Uber byla nejenom špatně naprogramovaná, ale i špatně a nelogicky nastavená.

Programátoři vypnuli bezpečnostní mechanismy

Vozidlo Volvo XC90, které Uber využívá k testování svého samořídícího systému, je samo o sobě vybaveno několika bezpečnostními mechanismy (tzv. City Safety). Ty jsou schopny detekovat hrozící kolizi a pokusit se jí zabránit. Všechny tyto funkce jsou ale vypnuty ve chvíli, kdy je auto v autonomním režimu.

Podle Uberu závisel systém na „pozorném operátorovi“

Společnost Uber uvedla, že jejich systém spoléhá na „pozorného operátora“. Ten má za úkol sledovat situaci a zasáhnout v případě, kdy samořídící systém selže.

Jak už zaznělo v úvodní citaci, společnost Uber vypnula i své vlastní bezpečnostní mechanismy, například nouzové brzdění. Výsledkem bylo, že samořídící auto vidělo překážku a vědělo, že má brzdit. Nic ale neudělalo.

Popis nehody, ke které nemuselo dojít

V čase nehody jelo auto Uber rychlostí 69 km/h, tedy mírně pomaleji, než byl rychlostní limit v dané oblasti. Radar i Lidar zaznamenaly chodkyni (zatím jako neznámý objekt) s předstihem 6 sekund, tedy ze vzdálenosti 115 metrů.

Jak se auto blížilo, palubní systém Uber upřesňoval svou identifikaci tohoto objektu. Neznámý objekt, vozidlo a konečně cyklista. V čase 1,3 sekundy před nárazem bylo jasné, že cyklista je v dráze vozidla, a systém vydal pokyn k okamžitému nouzovému brzdění. 

Brzdná dráha auta jedoucího 69 km/h je přibližně 27 metrů. To znamená, že auto - kdyby začalo brzdit včas - by do chodkyně narazilo rychlostí sotva 5 km/h.

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo...

Takto viděl situaci samořídící systém auta Uber. Ve chvíli, kdy auto rozpoznalo kolizní kurz, zbývalo 25 metrů do kolize (1,3 sekundy).

Nouzové brzdění ale, jak zprávy NTSB již víme, bylo vypnuté. Proč jej inženýři Uberu deaktivovali, to můžeme zatím jen spekulovat. Možná systém Uber přerušoval jízdu příliš často. Jak naznačují zprávy z Arizony, operátoři museli přebírat řízení průměrně každých 20 kilometrů, tedy několikrát do hodiny. Ve zprávě NTSB stojí, že „nouzové brzdění bylo vypnuto, aby se zabránilo případnému eratickému chování vozidla.“

Protože auto nemohlo zahájit nouzové řízení, pokračovalo v jízdě. Systém tedy v tuto chvíli věděl, že hrozí kolize, ale nezačal brzdit a dokonce ani nevydal žádné upozornění pro operátora. Podle společnosti Uber měl zkrátka operátor dávat pozor.

Operátorka i chodkyně mohly nehodě zabránit

Operátorka, 44letá žena, zřejmě pozor zcela nedávala. Do řízení zasáhla méně než sekundu před nárazem tím, že vzala za volant (a deaktivovala tak samořídící systém). Brzdit pak začala až po nárazu, ke kterému tak došlo v téměř plné rychlosti 62 km/h. Operátorka uvedla, že sledovala hlášky samořídícího systému. Na základě videa z vozidla se spekulovalo o tom, že používala telefon, to se ale nepotvrdilo, z telefonu prý pouze zavolala záchrannou službu.

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18....

Policie zveřejnila záběry nehody samořízeného auta, při níž zemřela žena (18. března 2018)

Podle NTSB je z videa z dalších kamer zřejmé, že chodkyně se nerozhlédla ve směru blížícího se auta. Byla oblečena do tmavého oblečení. Jízdní kolo, které vedla, nebylo řádně označeno reflexními prvky po stranách. Mělo sice přední a zadní reflektory a vpředu světlo, tyto prvky ale mířily kolmo k dráze vozidla a nebyly tedy viditelné. Chodkyně navíc přecházela silnici v místě, které nebylo přímo osvětlené pouličními lampami.

Kdo tedy za tragickou nehodu může? NTSB zdůrazňuje, že vyšetřování není u konce. Předběžné závěry ukazují, že nehodě mohla zabránit jak chodkyně, tak operátorka. Zdá se ale nesporné (a ze záznamů zjevné) že nehodě mohl zabránit palubní systém. Měl k tomu všechny prostředky, senzory i dostatečný čas zareagovat. Kvůli těžko pochopitelému nastavení systému ale nezasáhl. Namísto toho, aby samořídící auta Uberu demonstrovala svou hlavní výhodu oproti lidským řidičům, tak konfigurace systému přispěla k historické tragédii.

Oprava: Opravili jsme citaci ze zprávy.

Autor:

Nejčtenější

Na Měsíci je život. Pochází ze Země, zanesla jej tam izraelská havárie

Na Měsíci je nyní tisíce želvušek (Milnesium tardigradum), které přežijí...

Člověk na Měsíc nevkročil od roku 1972. Přesto lze říci, že na něm je pozemský život. Izraelská sonda Berešit totiž na...

Co zabilo turisty v Tatrách? Výboj, který urazí miliony metrů za sekundu

Ilustrační snímek

Pět lidí zemřelo a tři desítky jsou zraněny. To vše dokázal způsobit „jen obyčejný“ blesk. Změny, které jsou potřeba...

Na prahu objevu. Hledali středověký příkop, narazili na neznámé podzemí

Nejen na svatého Jiří vylézají hadi a štíři. Na snímku odhalený průhled do...

Mohla to být jen zavezená díra nebo bezcenné zbytky pobořeného zdiva. Na místě georadarem nalezené anomálie se však...

První test v ČR: Sennheiser Ambeo je soundbar z kategorie zázraků

Sennheiser Ambeo

Třináct reproduktorů, třináct zesilovačů, roky vývoje algoritmů a obvodů pro zpracování prostorového zvuku, reprodukce...

„Opravdu všichni přežili?“ Pilot bez motorů zázračně přistál v kukuřici

Let SV R178 společnosti Ural Airlines po úspěšném nouzovém přistání v...

„Zázrak nad Ramenskoje“, tak ruský tisk překřtil leteckou nehodu z 15 srpna 2019, která se odehrála nedaleko Moskvy....

Další z rubriky

Ruská plovoucí atomová elektrárna se vydává na cestu

Plovoucí jaderná elektrárna Akademik Lomonosov v přístavišti v Murmansku.

V pátek před polednem by měla z Murmansku vyrazit na místo určení plovoucí jaderná elektrárna Akademik Lomonosov. Loď...

Na sovětských špionážních družicích nám nad hlavou krouží jaderné reaktory

Ilustrace, která zachycuje představy amerických špionážních agentur o podobě...

Více než třicet jaderných reaktorů krouží na oběžné dráze Země. Vděčíme za to především Kremlu. Naprostá většina...

Silnice budoucnosti se stává minulostí. Proč solární projekt neuspěl

Solární silnice u obce Tourouvre-au-Perche v Normandii

Nejdelší úsek silnice osázené fotovoltaikou na světě, který se nachází ve Francii, má po pár letech provozu problémy....

ŠKOLNÍ ROZVRH: Stáhněte si zdarma pro svého školáka
ŠKOLNÍ ROZVRH: Stáhněte si zdarma pro svého školáka

Možná už připravujete s dětmi školní aktovku, nakupujete pomůcky, ořezáváte pastelky... Nezapomeňte na rozvrh hodin. Máme pro vás jeden k vytištění.

Najdete na iDNES.cz