Kontrola lidí může fungovat mnoha způsoby. Prvním a nejzjevnějším systémem dohledu a sledování jsou běžné kamery. V Číně je v současné době v provozu okolo 170 milionů kamer. Mnoho z nich dnes navíc podporuje pokročilé funkce jako rozpoznávání obličeje, odhad věku, etnicity nebo pohlaví člověka. To je velmi důležité, protože řada čínských měst má databázi všech svých obyvatel, včetně fotografie, která se ve spojení s rozsáhlou sítí chytrých kamer stává mocným nástrojem.
Na vlastní kůži si to vyzkoušel novinář BBC John Sudworth, kterému byla poskytnuta jedinečná možnost celý systém vidět v akci. Ve videu je tak vidět, jak je nejprve přidána jeho tvář do databáze a následně, když se John nachází poblíž centra města a jde na nádraží, je jeho osoba označena v systému jako podezřelá. Jen při přechodu přes most si všímá dvou kamer, které jeho obličej rozpoznají a potichu upozorní centrálu. Za sedm minut od počátku „pátrání“ už k němu na nádraží přistupují čtyři policisté a zadržují ho.
Tato konkrétní situace byla samozřejmě jednodušší než reálná, ale o schopnostech dnešních kamer a technologie rozpoznávání obličeje není pochyb. Zástupce firmy Dahua Technology vyrábějící tyto kamery se na videu holedbá, že spolu s využitím databáze tváří zvládnou sledovat pohyby konkrétního člověka po městě i týden zpátky. Dokážou k němu přiřadit jeho auto, ale i rodinné příslušníky. Při dostatečně velkém počtu kamer budou i vědět, s kým se často vídá, poznají jeho okruh známých. Policistka pak na videu zase ujišťuje, že občané se nemají čeho bát a že k datům konkrétního člověka přistupují, jen pokud je potřeba, jinak zůstávají nepoužita ve velké databázi. Dokonce i další z představitelů Dahua Technology ovšem ve videu přiznává, že představa, že je sledován každý jeho krok, je mu nepříjemná.
Ale rozsáhlé použití kamer není nic nového, a to nejen v Číně. Kamery jsou všudypřítomné i v západním světě. Stejně tak využívání technologií pro rozpoznávání obličeje je už současnou praxí, byť možná ne v takové míře jako v Číně. Například na letištích jsou tyto systémy standardem, a sledují nás na každém kroku, od parkoviště až po nástup do letadla. Povšimnou si dokonce třeba i toho, že neseme o zavazadlo méně než před chvílí.
Nedávno také vyšlo na povrch, že v USA existuje rozsáhlá databáze tváří téměř poloviny Američanů pod taktovkou FBI, přičemž zařazeni do ní jsou i lidé, kteří se v některých státech jen nechali vyfotit na řidičák. Rozsáhlá zpráva o odhalení přitom kritizuje, že přístup k databázi není podmíněn konkrétním podezřením a může být zneužívána například i pro identifikaci tváří protestujících.
Kamery však představují jen jeden z aspektů sledování, které dnešní technologie umožňují. Existuje i další, méně nápadný způsob, který je možná o to nebezpečnější. A jelikož nabízí výměnou za soukromí řadu výhod a nezpochybnitelné pohodlí, spousta lidí se stává jeho součástí i dobrovolně.
Pohodlí místo soukromí
Čína v posledních letech prochází velkým vývojem, zejména co se týče využívání technologií a internetu. Server Wired popisuje tyto změny na příkladu Lazaruse Liu, studenta, který se po třech letech vrací z pobytu ve Velké Británii zpět domů do Číny. S překvapením zde zjišťuje, že oproti době, kdy odešel, už zde nikdo nepoužívá hotovost. Všichni platí mobilními telefony, od mladých lidí v McDonald’s až po starší ženy na trhu se zeleninou. Zatímco u nás se velmi rozšířily platby bezhotovostními platebními kartami, v Číně jejich funkci zastupují aplikace do chytrých telefonů: WeChat společnosti Tencent a Alipay od firmy Alibaba.
Oba tyto programy jsou podobné v tom ohledu, že jsou více platformou než jednoúčelovou aplikací. Oba nabízejí nejen funkce on-line peněženky a plateb, ale spoustu dalších věcí: chat a sociální síť, možnost objednat a zaplatit si taxík, půjčit si a zaplatit za půjčení kola, koupit lístky do kina, koupit letenku, rezervovat a zaplatit večeři v restauraci, ale i poznat nové lidi v seznamce. V rámci jedné aplikace tedy nabízí mnoho dalších. Zatímco v našich telefonech máme Facebook, PayPal, Uber nebo Tinder, v Číně všechny tyto služby nahradí jen jedna.
Je zřejmé, že taková konsolidace nabízí velké pohodlí. Po návratu do Číny si Lazarus za pomoci svého telefonního čísla a oskenování občanky založil účet na Alipay a najednou mohl svůj telefon používat na vše. Ráno si přes Alipay objednal snídani až domů. Přes Alipay se objednával k doktorovi, aby se vyhnul frontám. Aplikaci mohl využít k placení i na dovolené v Thajsku. Pak zjistil, že když přidá poznávací značku svého auta, číslo řidičáku a sériové číslo motoru, může zaplatit z mobilu nejen poplatky za parkování, ale dokonce i povinné ručení. Takže to udělal. Přes Alipay začal jednoduše uhrazovat i poplatky za elektřinu, plyn a internet. Přestal s sebou do města nosit peněženku, už ji nepotřeboval.
V dnešní době už bereme jako samozřejmost, že nabízíme nejrůznějším společnostem data o nás a ty pak na jejich základě mohou lépe cílit reklamy a příjmy z nich umožňují nabídnout nám kvalitní služby „zdarma“. Google ví, komu píšeme e-maily a zná jejich obsah. Ví, co hledáme i kam na internetu chodíme. Z toho už dobře dokáže odhadnout naše zájmy. Pokud máte telefon s Androidem, ví Google i to, jaké aplikace používáte a kdy. A pokud jste nevypnuli historii polohy, zná i kudy a kam chodíte či jezdíte. Facebook zase ví, s kým se přátelíte, o čem si píšete, zná vaše zájmy, rodinu, politickou orientaci a tak podobně. Vaše banka ví, kde platíte kartou, kolik toho utratíte, kolik měsíčně dostanete a kdo vám peníze posílá. Všechny tyto společnosti toho o nás ví hodně a data hromadně zpracovávají. Alipay a WeChat ovšem mají přístup ke všem těmto údajům najednou. Vědí tedy, co a kde jejich uživatelé nakupují, jak a kam se dopravují i s jakými lidmi se baví. A na základě toho je hodnotí.
Člověk jako číslo
Jednou z novějších funkcí Alipay je totiž takzvaný Sesame Credit. Na základě chování uživatele – všech těch informací, které aplikaci sám poskytne – uděluje každému skóre mezi 350 a 950. Čím vyšší, tím lepší a tím více odměn a výhod dostane. Jak algoritmus hodnotí, ví přesně jen jeho architekti, ale prý je proces založen na pěti faktorech. Prvním je, zda uživatel platí všechny své účty za telefon, elektřinu a tak podobně a zda je platí včas. Dalším je neupřesněná „schopnost uživatele dostát svým závazkům“ a třetím osobní údaje, zda uživatel ověřil svou adresu, telefonní číslo a tak dále. Zde tedy nejde o nic objevného a systém zní podobně jako „credit score“ udělovaný registry dlužníků v USA, který má sloužit například finančníkům ke zhodnocení rizikovosti osoby, která má zájem o půjčku.
Čtvrtým faktorem je ale chování a preference uživatele a zde už se rozdíly ukazují. Započítává se totiž i to, co uživatel nakupuje a čím tráví čas – co Alibaba zhodnotí jako negativní, skóre sníží a naopak. „Někdo, kdo hraje 10 hodin denně počítačové hry, by například byl považován za lenocha,“ vysvětluje ředitel Sesame Technology Li Yingyun. „Někdo, kdo často nakupuje plenky, bude považován pravděpodobně za rodiče se smyslem pro zodpovědnost.“
Poslední faktor pak tyto obavy ještě podporuje: jmenuje se „mezilidské vztahy“. Ve výsledku je tedy zahrnuto, kdo jsou přátelé uživatele na integrované sociální síti. Pokud má „dobré“ přátele, kteří mají vysoké skóre, i jeho bude vyšší. Spojení s lidmi s nízkým koeficientem mu ten jeho sníží.
Existují také informace, že do výsledku se započítává i obsah zpráv: zprávy šířící „pozitivní energii“ mají skóre zvyšovat. Oproti tomuto tvrzení se však společnost Alibaba ohradila: obsah příspěvků na sociální síti prý neposuzuje. Ale ostatní faktory nepopírá, ani hodnocení na základě seznamu přátel.
Proč jsou tato kritéria znepokojivá, je zřejmé: uživatel je hodnocen na základě toho, co někdo určí jako správné či špatné. Pokud je zhodnocen negativně, ostatní uživatelé jsou penalizováni za to, že se s ním přátelí. To může samozřejmě vést k tomu, že si jej z přátel odstraní. Nevhodné chování - ovšem nevhodné podle kritérií provozovatele - tak bude sociálně ostrakizováno.
Zatím je to jen dobrovolný systém jedné společnosti, ale jeho úspěch je značný. Přihlásilo se do něj už více než 200 milionů uživatelů Alipay. Lákají je výhody: Sesame Credit má indikovat důvěryhodnost uživatele, a pokud se prokáže jako důvěryhodný, nemusí pak například platit zálohu při půjčování kola nebo auta, jsou mu nabízeny výhodnější půjčky nebo může na letišti využít VIP odbavení a přeskočit tak frontu. K tomu se navíc například zobrazuje jejich profil na integrované seznamce ve výsledcích výše. Jinými slovy vyšší skóre nabízí lehčí a pohodlnější život, stejně jako používání aplikace Alipay. Penalizace za nízké skóre zatím není – jen absence výhod.
Hodnocení se nevyhne nikdo
Ale pozor. Do roku 2020 plánuje „social credit“ systém spustit i čínská vláda – a ten už bude povinný. Jeho přesná podoba stále není známa, ale dosavadní dokumenty například zmiňují princip „pokud je porušena důvěra na jednom místě, postihy jsou zavedeny všude“. Časopis Wired uvažuje, že například lidé s nízkým skóre – a to z jakéhokoli důvodu – budou mít pomalejší internet, omezený přístup do restaurací a jiných podniků, horší podmínky pro půjčku, nižší sociální zabezpečení, přístup ke vzdělání nebo omezený výběr zaměstnání.
Jinak řečeno: pokud budete žít podle představ státu, můžete mít pohodlný život a spoustu výhod. Pokud ne, každý aspekt vašeho každodenního života se zhorší. A samozřejmě tu budou i negativní sociální dopady, jelikož přátelé vás raději odstřihnou, než aby se nechali stáhnout níže, a na seznamce bude váš profil někde „u dna“.
Jak navíc ukazuje současná podoba Sesame Creditu, takový systém ani vůbec nemusí být nepopulární. Naopak se lidé možná ještě budou zapojovat rádi sami a svým vysokým skórem se budou chlubit, jak se prý děje nyní u uživatelů Alipay. Jde tedy v podstatě o takzvanou gamifikaci, sledování a propagaci žádaného chování. Lidé se budou kontrolovat a usměrňovat podle přání vlády úplně sami, bez potřeby silných represí ze strany státu. Například protirežimního aktivistu pak nebude potřeba zavírat do vězení, jelikož se automaticky stane společensky izolovaným, nebude moci svobodně cestovat (aplikace mu nedovolí zaplatit si letenku) a tak dále.
Zda bude podoba spuštěného systému opravdu tak dystopická, ještě není jisté, ale vzhledem k dosavadnímu úspěchu soukromých programů se zdá, že vláda ani nemá žádný důvod se bát přijít s obdobným systémem. V kombinaci s „běžným“ sledováním pomocí kamer a databáze obličejů by tak v Číně mohlo dojít k prvnímu opravdovému naplnění dystopických vizí, kdy stát ví o svých občanech prakticky vše a nemusí se bát odporu. Jako nejúčinnější nástroj k dosáhnutí takového uspořádání se přitom dost možná neukážou silové represe, ale návykovost sbírání bodů a zlepšování svého hodnocení. Čína tedy začíná plně ukazovat nebezpečí současných technologií.
