Podvodná videa s politiky policie neřeší, nemají „trestněprávní přesah“

  15:16
V minulém týdnu se stal terčem deepfake videa ministr vnitra Vít Rakušan. Není však jediný. Videa s tvářemi politiků jsou vytvářeny pomocí umělé inteligence a mohou je zneužívat podvodníci. Terčem podvrhu se stal mimo jiné i prezident Petr Pavel či šéf hnutí ANO Andrej Babiš. Policie například ohledně případu Rakušana uvedla, že lze jen obtížně nalézt jakýkoliv trestněprávní přesah.
Fotogalerie1

ilustrační snímek | foto: Profimedia.cz

Deepfake video ministra vnitra Víta Rakušana vzniklo v návaznosti na debatu v Karviné, které se odehrála minulé pondělí v rámci turné hnutí STAN a samotného šéfa hnutí po českých městech zvané Debata bez cenzury.

Prostřednictvím umělé inteligence (AI) jsou v podvrhu Rakušanovi do úst vkládána slova, která ho mají zdiskreditovat. „Právě odcházím ze Sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana v deepfake videu.

„Video je hodně amatérské“

Rakušan v neděli pro iDNES.cz řekl, že trestní oznámení zatím nepodal. „To video je hodně amatérské, takže je otázka, koho mohlo ve skutečnosti zmást, ale ještě se o tom poradím,“ uvedl ministr.

Redakce oslovila i policii, zda se videem zabývá. „Nemám informaci o tom, že by se případem jakýkoliv policejní útvar zabýval, neboť lze obtížně nalézt jakýkoliv trestněprávní přesah,“ sdělil policejní mluvčí Ondřej Moravčík.

Rakušan ve videu uráží lidi z Karviné a mluví o cenzuře, je to však podvrh

Nejde však jen o Rakušana. Terčem deepfake se stal například i prezident Petr Pavel. Na sociálních sítích koluje video, ve kterém prezident oficiálně oznamuje spuštění nové platformy.

„Pro vydělávání na nové platformě stačí mít telefon nebo počítač a vložit minimálně šest tisíc korun na vklad pro začátek pro obchodování... Můžete vydělávat i v době spánku,“ stojí v podvrženém videu, ve kterém údajný prezident také nabádá ke kliknutí na odkaz pod videem a registraci.

Strojovou češtinou se v deepfake videu předvedl také šéf hnutí ANO Andrej Babiš. „Zaregistrujte se, vložte šest tisíc korun. Dávám vám záruku, že už zítra se vaše investice minimálně zdvojnásobí,“ slibuje údajný Babiš.

„Regulace se připravuje na úrovni EU“

Ohledně zneužívání umělé inteligence Rakušan v neděli pro iDNES.cz také řekl, že v rámci ministerstva už funguje pracovní skupina, která problematiku řeší.

„Regulace se připravuje na úrovni EU, z té bude vycházet i naše vlastní. Nezanedbatelná je i v tomhle případě také vlastní odpovědnost každého z nás. Například naše hnutí důsledně uvádí, které obrázky použité pro komunikaci byly vytvořeny s využitím AI,“ dodal ministr.

Setkali jste se na internetu s nějakým podvodným videem?

Hlasování skončiloČtenáři hlasovali do 0:00 úterý 6. února 2024. Anketa je uzavřena.

„Co se týká legislativních změn, na úrovni EU je připraven AI Act, nyní se čeká na jeho finální schválení Evropských parlamentem. Tento předpis bude prvním nástrojem regulace AI. Po schválení finální verze bude následovat příprava národní regulace. Ministerstvo aktuálně podporuje několik výzkumných projektů zaměřených na využívání AI,“ doplnil ministra mluvčí resortu Miro Jašurek.

Je důležité nepodléhat panice

Podle Ondřeje Pence z policejního odboru prevence je i pro budoucnost důležité, aby lidé v první řadě nepodléhali panice a pokud se jim video na internetu nebude zdát jako pravé, ověřovali si informace.

„Vždy je třeba se zamyslet, nadechnout se a třeba se podívat i na jiné weby nebo sociální sítě. Člověk, který byl tímto způsobem zneužit, většinou začíná činit první kroky a zprávu zpravidla vyvrací,“ popsal Penc.

Potřebují hodně vašich fotek a velký výkon. Falešné videohovory nás neminou

Policejní preventista také varoval před zdroji, ze kterých se podobná deepfake videa mohou šířit. „Na běžných ověřených webech se většinou brzy objeví zpráva, že video je podvržené. Pokud ale čerpám z neznámého serveru, měl bych být opatrný,“ uvedl dále.

Třebaže množství a hlavně kvalita deepfake obsahu roste, pro generování falešného videa ve vysoké kvalitě a v reálném čase je nutné mít k dispozici specializované výpočetní stanice s výkonnými grafickými kartami, což je dost drahé.

Pro vytvoření uvěřitelného falešného videa je podle expertů nutné velké množství fotek nebo videí daného člověka ve vysoké kvalitě. „Proto můžeme vidět mnoho ukázek na tvářích celebrit a známých osobností, kde jsou tyto podklady veřejně dostupné,“ přiblížil Andrej Svitek, který v technologické společnosti Trask vede tým pro AI.

S rozšířením sociálních sítí je ale podle něj stále jednodušší získat data i o „obyčejném“ člověku.

Technologie se stávají sofistikovanějšími

„Rozpoznání opravdu kvalitních deepfake videí může být i pro nás, kyberbezpečnostní odborníky, obtížné,“ popsali také bezpečnostní experti z Thein Security. Technologie se totiž stávají stále sofistikovanějšími a dostupnými i na mobilních telefonech.

Co se týče deepfakes, ačkoliv se „uvěřitelnost“ výrazně posouvá kupředu zejména s rozvojem generativní umělé inteligence, stále mají podle Svitka své slabiny, které lze při odhalování falešných videohovorů využít.

„Při méně sofistikovaných podvodech se útočník snaží zakrýt špatnou kvalitu videa nízkým rozlišením, rozostřením, trháním neboli neplynulostí videa,“ vysvětlil Svitek.

Útoků na banky bylo meziročně trojnásobek. Trendem jsou falešné telefonáty

Sofistikovanější útoky vypadají na první pohled důvěryhodněji, ale při detailnějším pohledu se může objevovat „plastická“ mimika tváře, neproporcionální symetrické rysy jako levé ucho výrazně jiné než pravé.

Expertům tak při odhalování deepfake obsahu pomáhá analýza obličejových rysů, sledují také nejasnosti v okolním prostředí nebo nekonzistentní osvětlení. Dnes už také existují nástroje a softwary navržené přímo k detekci deepfake obsahu. Některé z nich využívají strojové učení a umělou inteligenci k analýze videa a identifikaci známých vzorů spojených s deepfake technologiemi.

„Nicméně, ani na ty se nelze stoprocentně spolehnout. Z praxe víme, že není výjimkou označení i zmanipulovaného obsahu za pravý. Nepomůže ani vodoznak, jelikož i ten je možné odstranit,“ dodali experti z Thein Security.

Nejčtenější

Pekarová chválila Kingdom Come. Nemáte zásluhu, neparazitujte, sepsul ji autor

Hra Kingdom Come Deliverance 2 od českého vývojáře Warhorse Studios je celosvětový prodejní hit. Vývojářům na Facebooku pogratulovala také šéfka Sněmovny Markéty Pekarové Adamové (TOP 09), na což...

Trump nevyhostí prince Harryho z USA. Je to chudák, má hroznou ženu, vysvětlil

Britský princ Harry se podle serveru listu The New York Post nemusí obávat toho, že bude vyhoštěn ze Spojených států. Americký prezident Donald Trump totiž vyloučil, že by ho chtěl deportovat.

„Je to tu peklo.“ Dva dny s narkomany na Andělu, drogovém epicentru Česka

Premium

„Já chci umřít. Fakt chci umřít. Rozumíte? Bože, prosím, ať už chcípnu, tohle není život, tohle je peklo a tyranie. Anděl je peklo,“ zoufale prosí šestačtyřicetiletý vyučený podkovář Tony, bezdomovec...

Masakr ve švédské škole si vyžádal deset mrtvých. Zahynul i pachatel, říká policie

Zhruba 10 mrtvých si vyžádala úterní střelba v areálu vzdělávacího centra v Örebro ve středním Švédsku. Policie se domnívá, že mezi mrtvými je i samotný útočník, který zřejmě jednal sám. Policie...

Šikaně čelila roky, říká matka napadené dívky. Škola pochybení odmítá

Několik desítek dětí v sobotu v Hodoníně přihlíželo nevybíravým útokům na dvanáctiletou dívku. Ta čelila fackám, kopancům, plivání i tahání za vlasy. Podle její matky šlo o důsledek dlouhodobé šikany...

Bývalá chce vyplatit z majetku, který jsem nabyl před svatbou. Co patří do SJM

Manželská smlouva je u nás je poměrně novým právním institutem. Umožňuje manželům upravit si vzájemné majetkové vztahy odlišně od zákonem stanoveného režimu, tedy například společné jmění zúžit nebo...

11. února 2025

Hotovost pomalu mizí. Mladší Češi platí mobilem, starší plastovou kartou

Obliba bezhotovostních plateb výrazně narůstá. Například jen za první pololetí loňského roku proběhlo více než 1,4 miliardy transakcí. Ne vždy jde ale o platbu plastovou kartou. Zejména mladá...

11. února 2025

Do katastru nemovitostí jen s občankou. Opatření cílí na vytěžování dat a podvody

Premium

Prohlížení katastru nemovitosti má být napříště možné už jen s prokázáním totožnosti. Na občanku budou všechna data, která obsahují citlivé údaje, tedy především osobní údaje majitelů pozemků...

11. února 2025

Last of Us, Bílý lotos nebo Diddyho pád. Sledujte s iDNES Premium jen za 149 Kč

Využijte jedinečnou příležitost k získání prémiového obsahu i špičkové filmové a seriálové zábavy za bezkonkurenční cenu. Spojené čtvrtletní předplatné iDNES Premium a streamovací platformy Max s...

11. února 2025

Nakreslili mi tečky na obličej a dekolt. Pět let tajila práci na Kingdom Come 2

Zatímco česká středověká hra Kingdom Come: Deliverance 2 právě zažívá zasloužený úspěch, práce na motion capture, tedy...

Adam Mišík o svém handicapu: Mohli jsme to léčit, ale rodiče nechtěli

Že by znal podobnou situaci z vlastního života, Adam Mišík popírá. Ale zahrál si ji rád. Ve filmu Holka od vedle je...

Zvyšují riziko úmrtí. Průmyslové potraviny zavrhla dosud největší studie

Její verdikt není unikátní, obdobný vynesly mnohé předchozí výzkumy. Jenže aktuální studie se chlubí největším,...

Janek Ledecký tajil děti a teď i vnučku. Skoro dva roky je dědečkem

Kondici má jako čtyřicátník a figuru taky, nakonec hojně ji předvádí i v dokumentu, který o něm natočila Česká...

Někde to stále mírně táhne, hodnotí Rolins lifting po roce. Je ale spokojená

Zpěvačka Dara Rolins (52) před rokem absolvovala vylepšení u plastického chirurga. Přestože neplánovala o liftingu...