Pondělí 19. dubna 2021, svátek má Rostislav
  • schránka
  • Přihlásit Můj účet
  • Pondělí 19. dubna 2021 Rostislav

„Jste zločinci.“ Rozpoznávání obličejů politiků v experimentu selhalo

Software pro rozpoznávání obličejů chybně označil obličeje 28 kongresmanů za shodné se zločinci. Experiment má poukázat na nepřipravenost této technologie pro policejní účely. Tvůrce softwaru se však hájí, že byl jen špatně nastaven.

Rozpoznávání obličejů je dnes stále dostupnější a přesnější. Ale také může být technologii svobodné společnosti hodně nebezpečnou. | foto: Profimedia.cz

Rozpoznávání obličejů je užitečná technologie, která je využívána všude možně. V mobilních telefonech nabízí alternativu čtečkám otisků prstů, Facebook již déle využívá rozpoznávání obličejů k tomu, aby automaticky navrhoval označení lidí na fotkách, a nedávno začal přidávat další funkce: například upozornění, když si někdo cizí nahraje jako profilovou fotku obličej jiného uživatele s cílem se za něj vydávat.

V obou těchto případech je využití rozpoznávání obličeje závislé na souhlasu uživatele. Tato technologie se však stále častěji a více využívá také pro policejní účely, kdy nejenže často probíhá bez vědomí lidí, ale zároveň i vyvolává otázky o její účinnosti.

Sto milionů obličejů

Už dříve vyšlo najevo, že automatické rozpoznávání obličeje je v Americe využíváno na mnohem větším měřítku, než si kdo myslel. FBI má podle zjištění přístup k databázi obličejů více než 117 milionů Američanů, což je téměř polovina dospělé populace USA. Nejde samozřejmě o databázi zločinců: lidé se tam mohou dostat jen tím, že se nechají vyfotit na řidičák.

Lze pak v reálném čase porovnávat obličeje lidí vůči této databázi, například za pomoci kamer na veřejném prostranství identifikovat účastníky demonstrace. To mimochodem není hypotetická možnost – prý k tomu došlo už v roce 2015 v Baltimoru, kdy rozpoznávání tváří police použila pro identifikaci některých účastníků protestu hnutí Black Lives Matter.

Kromě závažných obav o porušování soukromí občanů se objevují i další problémy, například přesnost. Software pro rozpoznávání obličeje totiž zdaleka nemá stoprocentní úspěšnost. A v případě policejního použití může mít případný falešně pozitivní výsledek velmi nepříjemné dopady.

Až čtyřicetiprocentní chybovost

Jak velký potenciál pro chyby zde je, ukazuje experiment americké neziskové organizace ACLU (Americký svaz pro občanské svobody), v němž software chybně označil 28 kongresmanů za zločince.

28.července 2018 v 05:03, příspěvek archivován: 30.července 2018 v 13:28

The ACLU tested out Amazon's facial recognition technology — it misidentified 28 members of Congress as criminals https://t.co/9G1iCGzLWL

V tomto pokusu srovnával fotografie 535 členů amerického Kongresu s databází 25 tisíc veřejně dostupných fotek zatčených lidí (tzv. „mugshots“), ve které však žádný z kongresmanů nebyl. ACLU přitom k tomuto experimentu použila službu pro rozpoznávání tváří Rekognition, kterou nabízí společnost Amazon a její prodej přímo cílí i na policejní útvary v USA. U některých z nich je už v aktivním nasazení.

Hned 28 falešně pozitivních výsledků je samozřejmě dost vysoké číslo. ACLU zároveň poukazuje na další znepokojivý výsledek: 40 % falešných pozitiv tvořili „nebílí“, zatímco v kongresu tvoří zástupci etnických minorit pouhých 20 %. Zdá se tedy, že software u nich hůře rozlišuje a častěji se mýlí. Na toto zkreslení se upozorňuje dlouhodobě, rozlišování obličejů opakovaně ukázalo značně nižší přesnost například u černochů. Autoři experimentu proto tvrdí, že v současné podobě není systém připraven na použití pro účely policejní identifikace.

K výsledkům je třeba podotknout důležitou věc. Amazon se proti nim ohradil s tím, že na vině je špatné nastavení služby: ACLU použila hladinu spolehlivosti 80 %, zatímco Amazon pro policejní použití doporučuje minimálně 95 %. To samozřejmě velmi významně výsledky ovlivní, konkrétně povede k mnohem více falešně pozitivním výsledkům. Klíčové je zde ovšem slovíčko „doporučuje“, nastavení vyšší hladiny spolehlivosti totiž není nijak povinné ani hlídané. ACLU přitom uvádí, že použila výchozí nastavení, pokud jej tedy policie cíleně nezmění, dostane zřejmě zmíněných 80 %.

Technologie ke kontrole občanů?

Možná je tedy hlavním ponaučením potřeba větší regulace a jasně nastavených pravidel pro používání těchto technologií. Současnou situaci někteří lidé přirovnávají k „divokému západu“, kdy neexistují téměř žádné zákony omezující policejní využití rozpoznávání obličeje nebo standardy zajišťující jejich přesnost. K jejich vzniku mohou pomoci i podobné experimenty: třem demokratům v kongresu se to, že je software označil za zločince vůbec nelíbilo a poslali šéfovi Amazonu Jeffu Bezosovi žádost o seznam všech policejních útvarů, které jeho software využívají.

Diskuze o roli této technologie (a jí podobných) je potřeba i proto, že její využívání má potenciál znatelně přetvořit společnost. Opět není potřeba zůstávat v hypotetických úvahách a stačí se jen přesunout o kus dál, do Číny. Tam se vláda novinek rychle chytla a s jejich pomocí buduje až neuvěřitelně propracovaný systém sledování, kde stačí před kamerou přejít třeba jen na červenou a hned dostanete na mobil pokutu. Zda takový systém vznikne i na Západě se teprve uvidí.

Fagradalsfjall online

Sledujte živě aktivní sopku na Islandu. Erupce začala po týdnech otřesů 19. března a zláště pak v noci nabízí fascinující podívanou.

  • Nejčtenější

Už se nemusíte bát pomalého zapínání nebo restartování PC

Jedním z nejvíce frustrujících problémů počítačů s operačním systémem Windows se může stát jeho pomalé spouštění. Od...

Bitevníkem načerno. Nenápadný vojenský dříč dostal zuby přes odpor letců

OV-1 Mohawk se stal během své kariéry platformou pro sofistikované průzkumné systémy, ale osvědčil se i v jiných...

Poslední bojový letoun armády USA byl něco mezi sporťákem a stíhačkou

Firma Grumman je známá především námořními letouny. Mezi typy, které jsou neprávem na okraji zájmu, patří nenápadný...

Sraženiny po vakcínách: jak vznikají, jak jsou časté a jak se projevují

Začíná být jasné, že některé vakcíny proti covidu-19 mají nečekané vážné vedlejší účinky, které klinické studie...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

KVÍZ: Znáte letadla studené války? Mnohá bojovala i v horkých konfliktech

Bojová letadla z hloubi studené války k nám dnes přiletí prostřednictvím rozpoznávacího kvízu. Ať už si chcete...

Bláznivý voyeur Tichý. Žil jako bezdomovec, dnes jeho fotky stojí statisíce

Premium V jeho domě se fotky válely po zemi, padal na ně prach i bláto z bot. Na téměř každé z nich byla skvrna od kávy nebo...

Za fotky nehody Philipa nabízeli obří sumu. Neprodal jsem, říká exšéf Kladrub

Premium Když v roce 1996 přijela do Čech britská královna Alžběta II., snad nikdo nemohl velkému milovníkovi koní a jejich...

Svačiny jsou zbytečné. Stačí jíst dvakrát denně, vysvětluje profesor Anděl

Premium Nadváhu má v Česku až 44 procent mužů a 31 procent žen. A obezitu dalších 20 procent mužů a 18 procent žen. Statisíce z...

  • Další z rubriky

Když má umřít Bambi, veřejnost se bouří. I když si to Bambi zaslouží

Neochota zabíjet roztomile a něžně vypadající zvířátka, i když je to zrovna zapotřebí, se může snadno obrátit proti...

Kariéra od mikroskopu. Jak čtyři čeští vědci rozšiřují naše chápání světa

Premium Už v raném věku sbírali významná ocenění, dnes svým zanícením pro vědu neustále zvětšují naše povědomí o světě. Jak se...

„Sovětské Los Alamos“ vedli Němci. Vyvíjely se tu i zbraně pro vesmír

O sovětském jaderném výzkumu, jeho německých protagonistech, zrušeném programu vesmírných zbraní i tutlání havárie v...

Toliku, zavři počítač, začala válka. Netradiční fyzikální rozhovor

O tom, jak se spouští pokusný urychlovač uprostřed válečného konfliktu, či o tom, jaká by mohla být budoucnost...

Úklid hotový raz dva! Přihlaste se o jeden z 10 mopů 1-2 Spray max od Viledy
Úklid hotový raz dva! Přihlaste se o jeden z 10 mopů 1-2 Spray max od Viledy

Čistá podlaha snadno a rychle? 1-2 Spray max se perfektně hodí na rychlý každodenní úklid, kdy se vám nechce tahat s těžkým kbelíkem vody. Které...

Královna se rozloučila s Philipem bílými květinami a vlastnoručním vzkazem

Královna Alžběta II. se rozloučila s mužem, který stál po jejím boku celých 73 let. Posledními vzkazy pro prince...

Je to podraz, říká organizátor koncertů Cesta ze tmy. S projektem končí

Už za týden měl prostory pražské Lucerny rozeznít první koncert ze série Cesta ze tmy. Ministr zdravotnictví Petr...

Z Philipova pohřbu odcházeli bratři William a Harry v důvěrném hovoru

Na hradu Windsor byl v sobotu pohřben princ Philip, manžel královny Alžběty II. Velká pozornost se upírala také na...

Pohřbít psa na zahradě? Splnit podmínky vyhlášky je téměř nemožné

Chov zvířecího mazlíčka nepřináší jen radosti. Každý bude muset jednou řešit otázku kam s ním, až život jeho čtyřnohého...

Bojím se, že papírové peníze v Česku skončí do pěti let, říká ekonom

Premium Mezinárodní měnový fond již před pár lety poukázal na to, že by papírové bankovky či kovové mince mohly z ekonomiky...