Obrovské množství kamer ve městech není nic nového, ale Čína v tomto nemá konkurenci. V současné době se zde počet kamer odhaduje na 170 milionů, přičemž v plánu je do tří let přidat dalších 400 milionů. V USA je pro srovnání odhadem 50 milionů kamer. Číňané přitom tyto plány nijak netají: kamerový systém má sloužit pro zvýšení bezpečnosti. A v kombinaci s dnes až neuvěřitelně dobře fungujícími technologiemi pro rozeznávání obličeje se nedá popřít, že přináší výsledky. Zároveň však otevírá dveře pro nevídanou kontrolu společnosti ze strany státu.
Rozsáhlý kamerový systém má například jedno z největších čínských měst Šen-čen. Jeden případ, kterým by asi mohli argumentovat zastánci kamer, se zde odehrál před rokem, kdy na policejní stanici přišel muž nahlásit zmizení svého tříletého dítěte. Obával se, že bylo uneseno překupníky dětí, což v prý Číně není rarita. Policie díky kamerám nalezla dítě ve společnosti neznámé ženy, kterou software pro rozpoznávání tváří dokázal identifikovat. Následně policisté zjistili, že žena byla na nádraží a nastoupila s dítětem na vlak do města Wu-chan. Když dorazila, už na ni na zastávce čekali policisté a dítě zachránili – celá akce prý od nahlášení zmizení trvala jen 15 hodin.
Tento pozitivní příklad ukazuje, jak mocným nástrojem kombinace kamer a rozpoznávání obličeje může být. A Čínané jsou v popředí vývoje a inovací této technologie, která je díky velkému zájmu ze strany státu i městských bezpečnostních služeb v Číně velmi lukrativní. Například pro údajně největší čínskou firmu zaměřenou na umělou inteligenci SenseTime tvoří sledovací technologie třetinu výdělků. Obří zájem úřadů, soukromých bezpečnostních firem i čínské vlády potvrzuje také Megvii, další velká firma v Číně. „Vláda tlačí potřebu této technologie z těch nejvyšších míst, takže firmy nemají žádné velké překážky ve vývoji,“ říká její viceprezident Xie Yinan. „Zatímco v Americe lidé moc diskutují o tom, jak tuto technologii využívat.“ V Číně opravdu nikdo nelení a za pomoci nových technologií se zde buduje sledovací aparát 21. století.
Stát vidí všechno
V Šen-čenu je rozpoznávání tváří aktivně využíváno například dopravní policií, a to mnoha způsoby. Washington Post píše o zážitku ženy, která šla přes ulici mimo přechod a zastavila ji hlídka. Neměla u sebe občanský průkaz a nepamatovala si jeho číslo: strážník tedy vytáhl telefon, vyfotil si její obličej a o pár sekund později už jí předčítal její číslo průkazu, celé jméno i datum narození.
O kousek dál už ani nemusí stát hlídka. Pokud přejdete na červenou na některém přechodu v Šen-Čenu, zaznamená to přihlížející kamera automaticky. Zároveň také rozpozná váš obličej a ihned vás identifikuje. Fotografie přestupku spolu s vaším příjmením a částí ID čísla je pak vyvěšena na jedné z mnoha veřejných obrazovek a dokonce i na webové stránce. Tato „nástěnka ostudy“ má odradit od dalších přestupků zostuzením člověka, což se jí údajně daří: došlo ke snížení frekvence recidivy.
Ale to nestačí a systém půjde ještě dál. Firma Intellifusion, která ho pro město provozuje, je nyní v kontaktu s operátory mobilních sítí a provozovateli čínských sociálních sítí, jako je WeChat. Podle Wanga Juna, marketingového ředitele Intellifusion, je cílem dosáhnout toho, aby ti, kdo přejdou na červenou, dostali ihned na mobil zprávu o svém přestupku i s pokutou, kterou pravděpodobně odsud hned zaplatí. V Číně jsou chytré telefony a placení přes ně velmi rozšířené, což jen ulehčuje zavedení podobné praxe.
A co Západ?Kamerové systémy se nevyhnou ani nám Rozeznávání tváří se používá například i v USA. Vyšlo najevo, že existuje rozsáhlá databáze zahrnující 117 milionů Američanů. Systém není zdaleka tak mocný jako ten čínský a nemá dostupnou tak rozsáhlou síť kamer, ale riziko zneužití je značné. Údajně například došlo tímto způsobem k identifikaci členů demonstrace Black Lives Matter. Běžné je využívání podobných systémů například na letištích. |
Nám se možná může zdát, že přecházení na červenou neopodstatňuje tak rozsáhlý zásah do soukromí, ale čínská správa to vnímá jinak. Je to nežádoucí chování, které ve společnosti být nemá, a je tak jen otázkou, jak toho dosáhnout efektivně. Je jasné, že nemohou u každého přechodu neustále stát policisté a všechny pokutovat. Kamery a rozeznávání obličejů tak nabízí automatický systém coby efektivní řešení. A jakmile je vybudován, není samozřejmě problém ho využít proti spoustě dalších jevů, které vláda shledá nežádoucími.
Sám Wang pak také popisuje, že nejde jen o technologii: „Přecházení na červenou byl v Číně vždy problém a těžko se vyřeší jen pokutami nebo focením. Ale kombinace technologií a psychologie může značně omezit výskyt přecházení na červenou a zabrání opakovaným prohřeškům.“ Nejde jen o finanční postih nebo pocit provinilosti: tento systém bude lidem připomínat, že jsou pod neustálým dohledem. Kamery jsou všude a dokážou vás poznat. I malý přestupek je zaznamenán a vyvolá okamžitý postih. Po celou dobu, co půjdete venku, budete vědět, že každý váš krok může být sledován a veškeré chování hodnoceno.
Totální kontrola v praxi
Je potřeba připomenout, že není řeč o budoucnost, ale o z velké části aktuálně fungujícím opatření. „Tyto bezpečnostní systémy se objevují v amerických filmech“, říká Xie Yinan ze zmíněné firmy Megvii. „Ale v Číně jsou skutečně využívány v reálném životě.“ Na vlastní kůži to pociťují například náboženské menšiny – velké kostely či mešity musí být osazeny kamerami, které jsou napojeny na policejní stanici. Odrazují tak některé lidi od návštěvy kostela, protože tuší, že jejich návštěva bude zaznamenána a mohli by mít problémy (některá náboženství jsou v oficiálně ateistické Číně tvrdě potlačována).
Efektivnost sledování vnímají také kritici vlády a aktivisté. Jeden se nechal slyšet, že byl úspěšně vysledován a zadržen, ačkoliv cestoval s anonymní SIM kartou a za využití falešných dokladů – obličej před kamerami zkrátka neschová. Policisté se mu dokonce ohledně svých možností vychloubali: „Řekli mi, že kdykoliv jsem prošel přes některé křižovatky, počítačový systém je okamžitě upozornil na místo, kde se aktuálně nacházím.“
Aktuálně tedy v Číně může policie sledovat libovolného člověka a jeho pohyb městem nebo vědět, kdo všechno navštěvuje nežádoucí místa. Pokud přejdete na červenou v městě Šen-čen, s velkou pravděpodobností se objevíte na veřejné nástěnce. Brzy začnete automaticky dostávat na mobil pokuty, pokud uděláte něco špatně. Zní to děsivě? Stále to ještě není všechno.
Sociální skóreLáká na výhody, vyhrožuje postihy  „Sociální hodnocení lidí“ v Čině se začíná uplatňovat v reálném životě Skóre začalo jako iniciativa firem jako Alibaba a uživatelé se do programu hlásili dobrovolně. Nabízelo totiž jen výhody: nemuset platit zálohy či přeskočení fronty na letišti. Postupně se však stane povinností a podmínky bude řídit stát. Přijdou na řadu také postihy: s nízkým skóre si od května nekoupíte třeba letenku. Systém se do určité míry může udržovat i sám: dobrovolně se přihlásilo přes 200 milionů Číňanů a vysoké skóre se stalo předmětem chlouby na sociálních sítích. Více zde. |
V Číně se totiž navíc postupně zavádí „sociální kredit“, kdy nakonec každý občan bude mít osobní skóre. Více jsme o něm psali v tomto článku a nyní už na tomto skóre začíná záležet: od prvního května si „nedůvěryhodní“ lidé (tedy ti s nízkým skóre) nekoupí letenku ani jízdenku na vlak. Není přitom zcela jasné, co určuje, kdo má jaké skóre. Část tvoří absence dluhů, splácení účtů včas a tak podobně. Také má vliv, za co občan utrácí, co nakupuje. Na základě toho slouží vaše skóre jako údaj o důvěryhodnosti a vyšší skóre umožní získat snadněji výhodnější půjčku, zatímco nízké může vést k nějakému omezení – například pohybu, jako už se bude dít.
Skóre ovlivňuje i to, s kým se člověk baví: skóre přátel ovlivňuje ten váš. Tudíž pokud se stanete „nedůvěryhodným“, pravděpodobně kromě těchto postihů přijde i sociální izolace – nikdo se nebude chtít nechat táhnout dolů „potížistou“.
A co ovlivňuje toto skóre se samozřejmě může kdykoliv změnit. Mohou do něj být postupně přidávány další a další aspekty chování, které chce režim podpořit nebo naopak vymýtit. Jde tedy o potenciálně neskutečně mocný nástroj sociálního inženýrství, ze kterého se přitom nedá prakticky vůbec vymanit. Asi vás na tomto místě nepřekvapí, že se počítá s tím, že systém automatických postihů za přecházení na červenou má do budoucna ovlivňovat sociální skóre. Podle Wanga se bude registrovat četnost přestupků a od určité hranice začne snižovat skóre – a dotyčný bude mít například problém dostat půjčku od banky.
Není cesty ven
Ve výsledku se zdá, že v Číně vzniká opravdu neuvěřitelně propracovaný a chytrý systém sledování a kontroly občanů. Pokud se budete chovat podle představ vlády, budete mít vysoké skóre a snadný život. Dostanete výhodné půjčky, kdykoliv budete potřebovat, přednostně vás odbaví na letišti, budete si moci cestovat, kam chcete, a nikdo vás nebude obtěžovat.
Ale jakmile se začnete od vytyčené cesty odchylovat, začne vás systém postrkovat zpět. Vaše skóre půjde dolů a místo zelené barvy bude mít najednou varovně oranžovou. Vše bude trvat o něco déle, možná vás přestanou zvát na některé vybrané akce. Pokud se stále „nenapravíte“, bude to zase o něco horší: možná už nebudete moci opustit zemi – vaše nízké skóre vám to zkrátka nedovolí. Na sociálních sítí si vás začnou možná mazat někteří úspěšní přátelé, abyste jim nesnížili jejich skóre. Nebudou se s vámi vídat ani osobně: vědí, že všude jsou kamery, které vidí, kdo se s kým schází. Pokud se ani teď nezačnete kát, spadnete mezi úplnou spodinu. Nedostanete se z města, nebude se s vámi chtít bavit ani vaše vlastní rodina, přijdete o vše. Práci nemáte šanci si s vaším skóre najít, státní podporu s ním nedostanete.
V této podobě systém samozřejmě zatím nefunguje a není jisté, že vůbec někdy bude. Vzhledem ke spouštění prvních omezení na základě skóre je však zjevné, že k tomu má nakročeno. Kamer jen přibývá, uživatelů mobilních služeb také, technologie se stále zlepšují – vyhnout se tomuto rozjíždějícímu se systému bude stále těžší a jakákoliv kritika se vám může později krutě vymstít. Čínské vládě tedy v budování krásných nových zítřků podle vlastních představ zdánlivě nic nebrání.
Jak funguje rozpoznávání obličejů vysvětluje šéf české firmy Eyedea:
