Čtvrtek 13. srpna 2020, svátek má Alena
  • schránka
  • Přihlásit Můj účet
  • Čtvrtek 13. srpna 2020 Alena

„Jste zločinci.“ Rozpoznávání obličejů politiků v experimentu selhalo

aktualizováno 
Software pro rozpoznávání obličejů chybně označil obličeje 28 kongresmanů za shodné se zločinci. Experiment má poukázat na nepřipravenost této technologie pro policejní účely. Tvůrce softwaru se však hájí, že byl jen špatně nastaven.

Rozpoznávání obličejů je dnes stále dostupnější a přesnější. Ale také může být technologii svobodné společnosti hodně nebezpečnou. | foto: Profimedia.cz

Rozpoznávání obličejů je užitečná technologie, která je využívána všude možně. V mobilních telefonech nabízí alternativu čtečkám otisků prstů, Facebook již déle využívá rozpoznávání obličejů k tomu, aby automaticky navrhoval označení lidí na fotkách, a nedávno začal přidávat další funkce: například upozornění, když si někdo cizí nahraje jako profilovou fotku obličej jiného uživatele s cílem se za něj vydávat.

V obou těchto případech je využití rozpoznávání obličeje závislé na souhlasu uživatele. Tato technologie se však stále častěji a více využívá také pro policejní účely, kdy nejenže často probíhá bez vědomí lidí, ale zároveň i vyvolává otázky o její účinnosti.

Sto milionů obličejů

Už dříve vyšlo najevo, že automatické rozpoznávání obličeje je v Americe využíváno na mnohem větším měřítku, než si kdo myslel. FBI má podle zjištění přístup k databázi obličejů více než 117 milionů Američanů, což je téměř polovina dospělé populace USA. Nejde samozřejmě o databázi zločinců: lidé se tam mohou dostat jen tím, že se nechají vyfotit na řidičák.

Lze pak v reálném čase porovnávat obličeje lidí vůči této databázi, například za pomoci kamer na veřejném prostranství identifikovat účastníky demonstrace. To mimochodem není hypotetická možnost – prý k tomu došlo už v roce 2015 v Baltimoru, kdy rozpoznávání tváří police použila pro identifikaci některých účastníků protestu hnutí Black Lives Matter.

Kromě závažných obav o porušování soukromí občanů se objevují i další problémy, například přesnost. Software pro rozpoznávání obličeje totiž zdaleka nemá stoprocentní úspěšnost. A v případě policejního použití může mít případný falešně pozitivní výsledek velmi nepříjemné dopady.

Až čtyřicetiprocentní chybovost

Jak velký potenciál pro chyby zde je, ukazuje experiment americké neziskové organizace ACLU (Americký svaz pro občanské svobody), v němž software chybně označil 28 kongresmanů za zločince.

28.července 2018 v 05:03, příspěvek archivován: 30.července 2018 v 13:28

The ACLU tested out Amazon's facial recognition technology — it misidentified 28 members of Congress as criminals https://t.co/9G1iCGzLWL

V tomto pokusu srovnával fotografie 535 členů amerického Kongresu s databází 25 tisíc veřejně dostupných fotek zatčených lidí (tzv. „mugshots“), ve které však žádný z kongresmanů nebyl. ACLU přitom k tomuto experimentu použila službu pro rozpoznávání tváří Rekognition, kterou nabízí společnost Amazon a její prodej přímo cílí i na policejní útvary v USA. U některých z nich je už v aktivním nasazení.

Hned 28 falešně pozitivních výsledků je samozřejmě dost vysoké číslo. ACLU zároveň poukazuje na další znepokojivý výsledek: 40 % falešných pozitiv tvořili „nebílí“, zatímco v kongresu tvoří zástupci etnických minorit pouhých 20 %. Zdá se tedy, že software u nich hůře rozlišuje a častěji se mýlí. Na toto zkreslení se upozorňuje dlouhodobě, rozlišování obličejů opakovaně ukázalo značně nižší přesnost například u černochů. Autoři experimentu proto tvrdí, že v současné podobě není systém připraven na použití pro účely policejní identifikace.

K výsledkům je třeba podotknout důležitou věc. Amazon se proti nim ohradil s tím, že na vině je špatné nastavení služby: ACLU použila hladinu spolehlivosti 80 %, zatímco Amazon pro policejní použití doporučuje minimálně 95 %. To samozřejmě velmi významně výsledky ovlivní, konkrétně povede k mnohem více falešně pozitivním výsledkům. Klíčové je zde ovšem slovíčko „doporučuje“, nastavení vyšší hladiny spolehlivosti totiž není nijak povinné ani hlídané. ACLU přitom uvádí, že použila výchozí nastavení, pokud jej tedy policie cíleně nezmění, dostane zřejmě zmíněných 80 %.

Technologie ke kontrole občanů?

Možná je tedy hlavním ponaučením potřeba větší regulace a jasně nastavených pravidel pro používání těchto technologií. Současnou situaci někteří lidé přirovnávají k „divokému západu“, kdy neexistují téměř žádné zákony omezující policejní využití rozpoznávání obličeje nebo standardy zajišťující jejich přesnost. K jejich vzniku mohou pomoci i podobné experimenty: třem demokratům v kongresu se to, že je software označil za zločince vůbec nelíbilo a poslali šéfovi Amazonu Jeffu Bezosovi žádost o seznam všech policejních útvarů, které jeho software využívají.

Diskuze o roli této technologie (a jí podobných) je potřeba i proto, že její využívání má potenciál znatelně přetvořit společnost. Opět není potřeba zůstávat v hypotetických úvahách a stačí se jen přesunout o kus dál, do Číny. Tam se vláda novinek rychle chytla a s jejich pomocí buduje až neuvěřitelně propracovaný systém sledování, kde stačí před kamerou přejít třeba jen na červenou a hned dostanete na mobil pokutu. Zda takový systém vznikne i na Západě se teprve uvidí.

Přechod na DVB-T2

Od 27. 11. probíhá postupný přechod na vysílací standard DVB-T2. Kvůli koronavirové pandemii vláda rozhodla o odložení zbývajících přechodů na vysílání DVB-T2. Diváci si tak musí pořídit televizi s podporou kódování H.265 (HEVC) nebo starší televizi doplnit vhodným set-top boxem.

  • Nejčtenější

V noci na čtvrtek bude na maximu nejpopulárnější nebeské představení

Každý rok můžeme na obloze kolem 12. srpna vidět největší množství prachových částeček z meteorického roje Perseid,...

Svět je čím dál zelenější. Česko v současnosti míří opačným směrem

Na planetě Zemi v posledních desetiletích přibývá zeleně. Neplatí to však pro všechny státy. Česko bohužel představuje...

Dusičnan amonný zabíjel mnohokrát. Ovšem mnohem více životů zachránil

Výbuch v Bejrútu nebyl ani zdaleka jediným případem, kdy dusičnan amonný způsobil katastrofu. Některé z nich byly...

Bioarcheolog: Náš genom je z třetiny lovců mamutů, Češi přišli z Polska

Jsou Češi spíše Slované, Germáni, Keltové nebo potomci původních obyvatel na našem území? Podle bioarcheologa Jaromíra...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Spojené státy vyzkoušely nový nadzvukový kluzák

Odborníci americké armády a námořnictva v březnu otestovali hypersonický kluzák, který by měl být schopen překonat i ty...

Biolog Komárek: Jsme účastníky největšího sociologického experimentu všech dob

Premium Měsíce trvající pandemie nám převrátila životy naruby. Známý biolog, filozof a autor dvou desítek odborných knih a tří...

Brzy dospěju do bodu, kdy si účet na Facebooku zruším, říká Lucie Výborná

Premium „Je to hra. Hra, která by měla být přínosná, užitečná, inspirativní,“ říká o své práci moderátorka Českého rozhlasu...

Proč koronavirus už téměř nezabíjí. Vytratí se, nebo se vrátí ještě silnější?

Premium Koronavirus je záhadný. Nečitelný. I když ho zkoumají ti nejchytřejší lidé, pořád o něm víme málo. Chová se jinak. Je...

  • Další z rubriky

V ozónovou díru bylo lehké nevěřit. Poučení z poslední klimatické krize

Otázky kolem změn klimatu se na první pohled mohou zdát specifickým problémem současnosti. I zběžný pohled do minulosti...

STO OBJEVŮ: Stejnosměrný! Střídavý! Válka dvou velikánů o elektřinu

Seriál Stejnosměrný! Střídavý! Stejnosměrný! Střídavý! Dva géniové se střetli ve válce proudů. Letitý spor stále není u konce....

Který dinosaurus byl první? Na stopu přivedl vědce slezský ještěr

Kterým druhem a kdy začala dlouhá vláda dinosaurů? Důležité informace o prvních dinosaurech přinesl nález uskutečněný...

Psi a kočky se zřejmě nakazí novým koronavirem od svých pánů snadno

Výsledky zatím zřejmě největší analýzy výskytu viru SARS-CoV-2 u doma chovaných zvířat naznačují, že mohou být...

Prodej rodinného domu 5+1
Prodej rodinného domu 5+1

Bystré, Frenštát pod Radhoštěm, okres Nový Jičín
2 990 000 Kč

WhatsApp se brzy zbaví toho, co nás na něm nejvíc štve

Populární chatovací aplikace WhatsApp chystá změnu, která leckoho potěší. Brzy bude mít podporu více aktivních zařízení...

Krejčířovu vilu opět nikdo nechce. Už ani za dvacetinu pořizovací ceny

Ani další pokus o vydražení vily v Černošicích, která patřila odsouzenému Radovanu Krejčířovi, nebyl úspěšný. Do dražby...

Češi bydlí na Papui již tři roky. Byl to ze začátku šok, ale nelitují

Manželé se rozhodli vydat za prací do zahraničí. Zlákala je Papua Nová Guinea, kde žijí od roku 2017. Nejdříve v městě...

Škoda nebude žádnou montovnou, říká Babiš. Nový šéf musí na kobereček

Premium Premiér Andrej Babiš a ministr průmyslu a obchodu Karel Havlíček chtějí vědět, jaká budoucnost čeká mladoboleslavskou...

Jiné světlo, úhel nebo póza. Ženy odkrývají iluzi Instagramu

Často jsou to milovnice cvičení a zdravého životního stylu, které se snaží bořit mýty o tom, jak jejich těla ve...