Automat má mazat ISIS z webu, kritici varují před přílišnou cenzurou

  17:02aktualizováno  17:02
Protiextremistická organizace vytvořila automat, který se na webu snaží potírat on-line propagandu tzv. Islámského státu (ISIS).

Islámský stát se svou vlajkou propaguje po obsazení měst v Sýrii i Iráku. | foto: Profimedia.cz

Islámský stát využívá sociální sítě ke své propagaci a rekrutování (psali jsme v našem předchozím článku), čehož může využít i při koordinaci akcí v zahraničí. Provozovatelé sociálních sítí a vlády se samozřejmě snaží tento dopad limitovat a také hackeři ze skupiny Anonymous prý dlouhodobě bojují s islamisty na webu, například hromadně nahlašují jejich účty nebo napadají jejich stránky DDoS útoky.

Nezisková organizace Counter Extremism Project (CEP) v červnu oznámila svůj pokus na tomto poli. Jedná se o automatizované řešení, které umožňuje platformám rychle vyhledávat a odstraňovat extremistický obsah. „Pokud se chopíme této příležitosti a využijeme tuto technologii, extrémisté budou mít na internetu a sociálních sítích mnohem méně příležitostí k rekrutování nebo propagaci násilí,“ řekl Hany Farid, poradce skupiny CEP.

Farid je profesorem výpočetní techniky na Dartmouth College a vyvinul algoritmus eGLYPH, který dokáže rozpoznat podobnosti v psaném textu, audio souborech i obrázcích. Farid plánuje zpřístupnit tento algoritmus velkým sociálním sítím jako Facebook, Google nebo Twitter. CEP také pracuje na shromažďování „databáze extrémistických obsahů“, která usnadní analýzu příspěvků.

Jak to skloubit se svobodou slova?

Už nyní velké firmy bojují proti extrémistům on-line. Twitter v srpnu oznámil, že zablokoval statisíce účtů, které „propagovaly teroristické činy“. Podle Reuters také Google a Facebook potichu pracují na automatické detekci extrémistických videí.

Ale podle některých odborníků je s identifikací teroristických příspěvků problém (větší než např. s dětskou pornografií). „Je řada rozporů ohledně toho, co dělá z příspěvku příspěvek extremistický,“ říká John Horgan, profesor psychologie na státní univerzitě v Georgii. Automatizované odstraňování příspěvků by mohlo vést k nechtěné cenzuře. Mohlo by také dojít k omezení svobody tisku, například v případě, kdy by novináři využili citace či úryvky z extremistického příspěvku a vykazovali by tak některé z podezřelých znaků.

Jilliam York, ředitel organizace Electronic Frontier Foundation, která se zabývá ochranou soukromí, varuje, že každá automatizovaná detekce bude nutně mít falešné nálezy (false positives), ať už kvůli chybné technologii, nebo chybné implementaci. Přísná automatická cenzura by mohla vést i ke snížení přirozené protireakce ostatních. Přitom právě debata je podle studie (kterou sponzoroval Google) často velmi efektivním nástrojem v boji proti extremismu.

Autor:

Nepřehlédněte:

Nejčtenější

USA by mohly prohrát omezený konflikt s Čínou, soudí vědci ze Sydney

Americká ponorka USS Hawaii na manévrech RIMPAC 2018 u Havajských ostrovů

Vojenská nadřazenost Američanů v Jihočínském a Východočínském moři je věcí minulosti. Jejich ozbrojené síly jsou...

Smrt přišla rychleji než zvuk. První rakety V-2 udeřily 8. září 1944

raketa V-2

Nebylo proti nim obrany a podle planých nadějí návykovými látkami „udržovaného“ vůdce třetí říše měly srazit zarputilé...

Kdy ani ochranný oblek nepomůže. Co dokáže granát nebo zákeřná motýlí puma

Podívejte se s námi k pyrotechnikům PČR

„Pokud mě uvidíte utíkat, snažte se mě předběhnout.“ Vtip, který laika pobaví, ale z pohledu pyrotechnika je otřepaný a...

Proč byli někteří dinosauři tak velcí? Měli něco, co savci ne

Jedním z evolučních důvodů gigantických rozměrů sauropodů byla pasivní obrana...

Největší suchozemští tvorové všech dob, pravěcí sauropodi, byli výrazně větší než všechna zvířata, která známe z naší...

Intel uznává dočasný úspěch AMD, ale plánuje agresivní odvetu

AMD versus Intel

AMD se v posledních letech zaslouženě dařilo v oblasti procesorů pro běžné počítače. Intel nyní připustil, že ztrácí...

Další z rubriky

Ukrajina oficiálně představila kryt pro Černobyl. Na místě stojí roky

Nový kryt nad IV. reaktorem černobylské elektrárny stojí již od listopadu 2016:...

Desátého července byl slavnostně „odhalen“ nový kryt nad havarovaným IV. blokem černobylské elektrárny. Na svém místě...

Chyby ohrožují stovky milionů zařízení. Jsou v OS, který asi neznáte

Bezpečnostními chybami v operačním systému VxWorks mohou být postiženy i výtahy.

Bezpečnostní společnost objevila chyby v systému, který využívají například výtahy nebo tiskárny.

Samsung představil tablet s perem, které slouží i jako dálkové ovládání

Samsung uvádí novou generaci svého prémiového android tabletu Galaxy Tab S6....

Samsung představil nový tablet Galaxy Tab S6. Novinka je menší a lehčí při zachování velikosti displeje oproti...

Najdete na iDNES.cz