Fake news poznáme i podle toho, kdo je lajkuje a komentuje, říká vývojář

  11:48
Známá byla na testech, nevydržela čekat ve frontě a šla domů, přesto dostala na mobil zprávu, že je pozitivní na koronavirus...Tak zní dnes snad nejrozšířenější falešná zpráva na sociálních sítích. Systém brněnské firmy Cogniware analyzuje zprávy na sociálních sítích a upozorní na ty, které mohou být dezinformací.

Obchodní ředitel firmy Cogniware, jež loni zaujala technologií týkající se fotografií. Čeští policisté dostali program, který v necelé sekundě porovná fotografii s databází, kde jsou miliony snímků, a ušetří jim mnohahodinovou rutinní práci. | foto: Anna Vavríková, MAFRA

Takzvané fake news umí odhalit umělá inteligence z dílny vývojářů české firmy Cogniware se sídlem i v Brně. Jak, to líčí její obchodní ředitel Walter Pavliš.

Říkáte, že jste vyrobili kladivo na fake news. Díky vám se dá tedy většina dezinformací rozbít?
Jde o systém, jehož úkolem je analyzovat sociální sítě a zprávy tam uvedené. A oskórovat je, nakolik může jít o dezinformaci. Systém má samozřejmě nějaká omezení a úskalí spočívající v tom, že ne každá dezinformace je odhalitelná. Ale lze jej naučit pro určitou oblast – třeba kulturní, sociální, zdravotnickou. Pracuje na principu umělé inteligence za využití takzvaných neuronových sítí, což znamená, že systém naučíte, jak fake news vypadají, jaký mají zhruba obsah, jak na ně reagují přispěvatelé na sítích a systém podle vašich parametrů zprávu ohodnotí nějakým skóre, třeba že jde ze 70 procent o dezinformaci, a informuje uživatele. Tím je nějaká státní organizace, nikoli běžný uživatel. Řekne: pozor, tuto zprávu by bylo dobré ověřit, protože má parametry dezinformace.

Existují i falešná videa „známých osobností“, kdy ale reálně mluví někdo jiný. Váš software to umí odhalit zkoumáním hlasu nebo tváře. Jak to funguje? Je pravda, že hlas je jako otisk prstu?
Hlas je skutečně poměrně unikátní a s 99procentní pravděpodobností jsme schopni říct, jestli hlas v nějakém videu patří řečníkovi, za kterého je vydáván. I imitátor se tomu docela přiblíží, ale systém neošálí. Pro vytvoření otisku hlasu potřebujeme zhruba dvacetisekundovou nahrávku. Velice podobně to funguje i u obličejů. Jsme schopni je strojově porovnávat a vysledovat, jestli patří tomu, za koho je řečník vydáván. Dost často dezinformace využívají i už nějaké existující fotografie, třeba jen výřez. A na našem systému je, aby rozpoznal, jestli nejde o zmanipulovaný obrázek, který někdo upravoval.

Co dalšího dokážete analyzovat?
Nejčastěji je to obsah zprávy, přesněji to, jak vypadá, jaké má prvky. Často šířené dezinformace jsou ve formě krátké textové zprávy s obrázkem. A tam je to složitější. Nicméně v tom právě spočívá kouzlo našeho systému, že dokáže rozpoznávat specifické prvky. Nemůžu uvést všechny, ale například to, jak je napsána – jestli dostatečně bombasticky, s kapitálkami, vykřičníky… Druhou oblastí je, jakým způsobem se zpráva šíří, sociální interakce. Kdo ji lajkuje, přeposílá, na jakých webech se objevuje, jaké jsou k ní komentáře.

A jak se to ten systém naučí detekovat?
Vezmete poměrně velké množství zpráv, pravdivých i dezinformací, takzvaný dataset, který pak podsouváte výpočetnímu stroji a označujete – toto je a toto není dezinformace. Neuronová síť se postupně učí rozpoznávat, jak dezinformace vypadají. Když jich systému podsunete tisíce, tak to postupně začne umět. To máte, jako když malé dítě učíte rozlišit psa a kočku. Když je spatří poprvé, samozřejmě si je bude plést. Ale když uvidí sto psů, tak už ne. Samozřejmě hrají roli docela velké kulturní odlišnosti, jinak systém bude fungovat v Asii, jinak v Evropě a na Středním východě. Ať už z jazykového pohledu, nebo toho, na jaký způsob komunikace jsou tamní lidé zvyklí.

Software umí v současnosti fungovat v češtině, angličtině a arabštině?
V arabštině a angličtině. Pro české prostředí ho nemáme natrénován, ale gros systému je hotovo, a stejně tak, jako musíme natrénovat pro různé oblasti, tak bychom natrénovali i pro naše kulturní prostředí. Ale ono to nikdy neskončí tím, že jako tvůrci budeme mít hotovo, je třeba neustále aktualizovat. Útočníci jsou vždycky kreativnější. Vymýšlejí nové a nové způsoby a je to věčný boj mezi těmi, kdo se snaží tyto zprávy šířit a kdo rozpoznávat. Náš systém je něco jako antivir, kdy stahujete aktuální databázi virů, které existují, tak my hledáme aktuální typy dezinformací.

Systém není pro jednotlivce, takže jej využívají státní složky?
Přesně tak. Buď silové složky, které mají za úkol bránit sociální prostor před šířením nebezpečných informací, jež vedou k panice nebo šíření poplašené zprávy. Ty pak dál upozorňují zpravodajské servery. Pokud nasadíte stroj, je rychlejší a generuje skóre zpráv rychleji než člověk a činí tak v okamžiku, kdy se zpráva objeví, ne až když je všude rozšířená.

Je vaším cílem rozklíčovat, kdo konkrétně dezinformaci produkuje a vypouští?
Naším cílem není hledat útočníka. Ale to, kdo informaci šíří, je pro nás poměrně podstatné pro to, abychom zprávu mohli předem označit za nebezpečnou. Protože samozřejmě jsou známy servery, které se živí šířením těchto informací, a pak už je předpoklad, že se na nich dezinformace může vyskytnout. Takže je to jedno z vodítek.

Dá se říct, jakou máte v odhalování fake news úspěšnost?
To je závislé na tom, o jaké oblasti se bavíme. Když jde o politickou zprávu nebo třeba ohledně covidu, tak máme úspěšnost kolem 70–80 procent. Ale je to hrozně odvislé od toho, jak je dezinformace chytře napsaná. Některé jsou jasný podfuk, jiné mohou být na hraně – pisatel píše část pravdy, ale vyvozuje z ní nepravdivý úsudek. A jiné jsou neověřitelné, nedohledatelné.

Jak se na dezinformace díváte, jakou mají míru nebezpečnosti? Jsou hrozbou jako třeba terorismus?
Je to poměrně nebezpečná věc, která se stále ještě nedoceňuje. Drtivá většina vyspělého světa visí na sociálních sítích a čerpá z nich informace. A pokud budete dennodenně nasávat nejrůznější hlouposti a lži, utvoříte si nepravdivý obrázek o svém okolí a světě. Propaganda je postavená na tom, že se stokrát opakovaná lež stává pravdou. Když nějakou lež uvidíte neustále na sítích a nikdo vás neupozorní, že to lež je, tak jí začnete věřit. A když jí uvěří velké množství lidí, má to dopady i do běžného života – podle toho lidé volí, reagují, nakupují, nechávají se očkovat a testovat. Dopady mohou být fatální, i když míra se těžko odhaduje.

Osobně vnímám jako problém, že i když je dezinformace odhalena, tak k těm, kteří ji sdíleli, se tato informace často nedostane. Je něčí role, upozorňovat na to?
Můj názor je, že by mohla existovat nezávislá organizace – typově Transparency International nebo třeba Národní úřad pro kybernetickou bezpečnost nebo ministerstvo obrany – která se bude snažit o označení dezinformace. Aby běžný uživatel u zprávy viděl fajfku – ověřeno. Nebo naopak červený křížek – pozor, dezinformace, nevěnujte jí pozornost. Neříkám, že to situaci zachrání, ale je to asi jediný nástroj, aby lidé nehltali zprávy zjevně zavádějícího charakteru a podle nich reagovali.

Jsou čeští uživatelé sociálních sítí schopní rozlišovat, co je a co není fakt?
Z mého pohledu vůbec. (smích) Když se podívám na některé komentáře zpravodajských webů, tak to je příšerné... Nemyslím, že si u nás lidé ověřují zdroj informací, jestli, co je napsané, je pravda. Na to nemají čas a chuť. Ráno si otevřou nějaký zpravodajský web, přečtou si headline, kouknou se na fotky a vezmou to jako fakt. Pokud by třeba existovala skupina, která by cíleně měla za úkol vypustit nějakou informaci, jež by změnila náhled velké části populace třeba na nějakou politickou stranu, tak je to téměř nezastavitelné. Okamžitě se to rozšíří, s odstupem dní nemáte šanci říct, tohle byla hloupost. To musíte udělat v tu dobu, online.

Je pravda, že váš systém může pomáhat i policejním vyšetřovatelům?
Co se systému pro fake news týče, používají jen určitou část, která slouží k analýze sociálních sítí, kdo s kým komunikuje, co si píše. Ale my především vyrábíme systémy pro analýzu důkazů, které z velkého množství zdrojů, komentářů, textovek, hovorů… hledají souvislosti, jež pomáhají vyšetřovatelům zanalyzovat případ. Používá je hodně Střední východ, na českém trhu teprve systém začínáme nabízet. I software pro fake news aktuálně nabízíme v Evropě a v České republice.

Jsou tyto nástroje pro budoucnost nezbytné?
S tím, jak roste podíl sociálních sítí na informovanosti lidí, se bez nich neobejdeme. Je třeba prevence, ne restrikce. Tedy ne zpětně někoho odhalovat za šíření propagandistických a klamavých informací, zakazovat weby a blokovat, to nikdy fungovat nebude. Útočníci si vždycky najdou cestu, jak informace mezi nás poslat. Některé dezinformační kampaně jsou dnes generovány strojově, což je zajímavé z filozoficko-technologického pohledu, protože v zásadě bojují stroj proti stroji. A do budoucna to bude čím dál víc používaný model, jak šířit nějaké zprávy.

Lidé jsou na psaní příliš drazí. A softwary dnes nejen že vyrobějí fake news na špičkové úrovni, ale dokážou jimi i zahltit svět.
Neuronová síť se učí rozpoznávat, jak dezinformace vypadají. Když jich systému podsunete tisíce, postupně to začne umět.

Nejčtenější

Metro v Brně? Pražský model se radním nelíbí, město se rozhodlo jinak

Pět roků se už brněnští politici zabývají myšlenkou vybudování metra v jihomoravské metropoli. V minulém týdnu dostala vize opět o něco reálnější obrysy. Radní se shodli, že nejlepší variantou bude,...

Šach, mat, Pražáci. Nejen netknutí Brňané brali obří blackout s humorem

Zatímco v Česku během pátečního masivního výpadku elektrického proudu nejezdily ani tramvaje, nefungovaly semafory a doprava kolabovala, vždy se našel někdo, kdo zůstával nad věcí. Internet tak...

Zmizeli, mobil nevyzvání. Policie na jihu Moravy hledá otce a jeho malá dvojčata

Jihomoravská policie vyhlásila pátrání po třiapadesátiletém Davidu Suchanovi a jeho sedmiletých dětech, dvojčatech Markovi a Veronice. Rodina se nevrátila ve stanovený čas z dovolené a s mužem se...

Ve Znojmě to vře kvůli chování nových romských rodin, bojí se i turisté

Premium

Spory mezi dvěma partami Romů nedávno ve Znojmě vyústily až v radikální čin nezletilého mladíka, který do několika svých soků zkusil najet autem. Ti stihli uskočit a nikomu se nic nestalo, událost...

Útočí na nás, báli se v Brně. Nad domy v neděli ráno létal vrtulník s nákladem

U někoho obavy z nepřátelského útoku, u někoho „jen“ rozhořčení nad zkráceným víkendovým spánkem vyvolal v neděli ráno vrtulník s nákladem, který létal nad brněnskou Slatinou. Stroj dopravoval...

Cora je zpět. Medvědí hvězdu brněnské zoo mohou návštěvníci vidět po dvou letech

Lední medvědice Cora, která je dlouhodobou hvězdou brněnské zoo, obývá od pondělí nový výběh. Návštěvníci ji tak mohou vidět znovu po dvou letech, během této doby se k jejímu původnímu výběhu nedalo...

7. července 2025  15:01

Ománské posily v Brně: Zatím nerozlučná dvojka. Vyhlédl si je kouč Chytrý

V parném horku se většina fotbalistů brněnského Artisu z tréninku pomalu ploužila na oběd, zatímco dvojice snědých borců si užívala každého paprsku. Ománští reprezentanti Abdulrahman Al-Mushaifri a...

7. července 2025  14:25

Ryby v Dyji nešlo zachránit. Sinice „krmíme“ fosforem a dusíkem, říká odborník

Ryby, které uhynuly před týdnem v Dyji vlivem prudkého poklesu koncentrace kyslíku, nešlo podle odborníka Radovana Koppa z Mendelovy univerzity zachránit. Podobné situace budou podle něj stále...

7. července 2025  12:37

Motorkář při zběsilém ujíždění před policisty narazil do auta s ženou a dítětem

Za každou cenu se v neděli na Hodonínsku snažil uniknout policejní kontrole mladý muž na terénní motorce. Když mu nevyšel únik přes pole, vrátil se na silnici, kde vrazil do auta, v němž jela žena se...

7. července 2025  10:56

Na D2 u Podivína se převrátil autobus, řidič zřejmě usnul. Zranilo se šest lidí

Na dálnici D2 mezi Podivínem a Hustopečemi na Břeclavsku havaroval v pondělí brzo ráno ve směru na Brno autobus a převrátil se na bok. Cestovalo v něm podle policie 19 lidí včetně dvou řidičů....

7. července 2025  6:26,  aktualizováno  9:52

Zahlcení úředníci a delší lhůty. Brněnský superúřad dostal bídné vysvědčení

Už rok je cílem běžných lidí i stavebníků z nejrůznějších koutů Brna při snaze vyřídit si povolení ke stavbě domu nebo třeba jeho kolaudaci centrální superúřad sídlící v Orlí ulici. Vysvědčení za...

7. července 2025  5:23

VIDEO: Kombajn způsobil požár u Rohatce. Hořelo pole i zahradní chatky

Mezi Rohatcem a Hodonínem hořelo v neděli odpoledne pole o rozloze 16 hektarů. Plameny se rozšířily až k nedaleké zahrádkářské kolonii a zasáhly několik chatek. Požár podle hasičů způsobil kombajn...

6. července 2025  16:56,  aktualizováno  19:06

Když kůže „bojuje“, zachovám klid a přizpůsobím techniku, líčí oceňovaná tatérka

Premium

Na pohled drobná a jemná blondýnka, z jejího studia však odcházejí zákazníci s nepřehlédnutelným tetováním. Xenija Vaykhel, zakladatelka brněnského studia Tattoo Bar, tetuje v jednom z...

6. července 2025

Musím být opatrný, co vykecat do éteru, říká Abraham o nové roli komentátora

S motocyklovým mistrovstvím světa se jako jezdec Karel Abraham loučil před šesti lety, shodou okolností v sezoně, kdy se naposled před diváky jela Grand Prix v Brně. Letos je Masarykův okruh v...

6. července 2025  10:18

S malými dětmi na cestách vlakem. Jsou to skvělí parťáci, říká producentka

Producentka, scenáristka a ředitelka festivalu Seriál Killer i Televizního institutu Kamila Zlatušková je brněnská rodačka, která se rozhodla, že se pro ni jihomoravská metropole či kraj nikdy...

5. července 2025  13:21

Miliony, procenta, krok zpět. Jak Artis „vypáčil“ záložníka Samka z Itálie

Poměrně s přehledem „vylovil“ ostříleného Vukadina Vukadinoviče z postupujícího Zlína, v Českých Budějovicích si ukázal na Quadriho Adedirana a dostal ho, do druhé ligy přivedl dva borce z Ománu....

5. července 2025

Šach, mat, Pražáci. Nejen netknutí Brňané brali obří blackout s humorem

Zatímco v Česku během pátečního masivního výpadku elektrického proudu nejezdily ani tramvaje, nefungovaly semafory a doprava kolabovala, vždy se našel někdo, kdo zůstával nad věcí. Internet tak...

5. července 2025  9:55
Nastavte si velikost písma, podle vašich preferencí.