Deepfake video ministra vnitra Víta Rakušana vzniklo v návaznosti na debatu v Karviné, které se odehrála minulé pondělí v rámci turné hnutí STAN a samotného šéfa hnutí po českých městech zvané Debata bez cenzury.
Prostřednictvím umělé inteligence (AI) jsou v podvrhu Rakušanovi do úst vkládána slova, která ho mají zdiskreditovat. „Právě odcházím ze Sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana v deepfake videu.
„Video je hodně amatérské“
Rakušan v neděli pro iDNES.cz řekl, že trestní oznámení zatím nepodal. „To video je hodně amatérské, takže je otázka, koho mohlo ve skutečnosti zmást, ale ještě se o tom poradím,“ uvedl ministr.
Redakce oslovila i policii, zda se videem zabývá. „Nemám informaci o tom, že by se případem jakýkoliv policejní útvar zabýval, neboť lze obtížně nalézt jakýkoliv trestněprávní přesah,“ sdělil policejní mluvčí Ondřej Moravčík.
Rakušan ve videu uráží lidi z Karviné a mluví o cenzuře, je to však podvrh |
Nejde však jen o Rakušana. Terčem deepfake se stal například i prezident Petr Pavel. Na sociálních sítích koluje video, ve kterém prezident oficiálně oznamuje spuštění nové platformy.
„Pro vydělávání na nové platformě stačí mít telefon nebo počítač a vložit minimálně šest tisíc korun na vklad pro začátek pro obchodování... Můžete vydělávat i v době spánku,“ stojí v podvrženém videu, ve kterém údajný prezident také nabádá ke kliknutí na odkaz pod videem a registraci.
Strojovou češtinou se v deepfake videu předvedl také šéf hnutí ANO Andrej Babiš. „Zaregistrujte se, vložte šest tisíc korun. Dávám vám záruku, že už zítra se vaše investice minimálně zdvojnásobí,“ slibuje údajný Babiš.
„Regulace se připravuje na úrovni EU“
Ohledně zneužívání umělé inteligence Rakušan v neděli pro iDNES.cz také řekl, že v rámci ministerstva už funguje pracovní skupina, která problematiku řeší.
„Regulace se připravuje na úrovni EU, z té bude vycházet i naše vlastní. Nezanedbatelná je i v tomhle případě také vlastní odpovědnost každého z nás. Například naše hnutí důsledně uvádí, které obrázky použité pro komunikaci byly vytvořeny s využitím AI,“ dodal ministr.
Setkali jste se na internetu s nějakým podvodným videem?
„Co se týká legislativních změn, na úrovni EU je připraven AI Act, nyní se čeká na jeho finální schválení Evropských parlamentem. Tento předpis bude prvním nástrojem regulace AI. Po schválení finální verze bude následovat příprava národní regulace. Ministerstvo aktuálně podporuje několik výzkumných projektů zaměřených na využívání AI,“ doplnil ministra mluvčí resortu Miro Jašurek.
Je důležité nepodléhat panice
Podle Ondřeje Pence z policejního odboru prevence je i pro budoucnost důležité, aby lidé v první řadě nepodléhali panice a pokud se jim video na internetu nebude zdát jako pravé, ověřovali si informace.
„Vždy je třeba se zamyslet, nadechnout se a třeba se podívat i na jiné weby nebo sociální sítě. Člověk, který byl tímto způsobem zneužit, většinou začíná činit první kroky a zprávu zpravidla vyvrací,“ popsal Penc.
Potřebují hodně vašich fotek a velký výkon. Falešné videohovory nás neminou |
Policejní preventista také varoval před zdroji, ze kterých se podobná deepfake videa mohou šířit. „Na běžných ověřených webech se většinou brzy objeví zpráva, že video je podvržené. Pokud ale čerpám z neznámého serveru, měl bych být opatrný,“ uvedl dále.
Třebaže množství a hlavně kvalita deepfake obsahu roste, pro generování falešného videa ve vysoké kvalitě a v reálném čase je nutné mít k dispozici specializované výpočetní stanice s výkonnými grafickými kartami, což je dost drahé.
Pro vytvoření uvěřitelného falešného videa je podle expertů nutné velké množství fotek nebo videí daného člověka ve vysoké kvalitě. „Proto můžeme vidět mnoho ukázek na tvářích celebrit a známých osobností, kde jsou tyto podklady veřejně dostupné,“ přiblížil Andrej Svitek, který v technologické společnosti Trask vede tým pro AI.
S rozšířením sociálních sítí je ale podle něj stále jednodušší získat data i o „obyčejném“ člověku.
Technologie se stávají sofistikovanějšími
„Rozpoznání opravdu kvalitních deepfake videí může být i pro nás, kyberbezpečnostní odborníky, obtížné,“ popsali také bezpečnostní experti z Thein Security. Technologie se totiž stávají stále sofistikovanějšími a dostupnými i na mobilních telefonech.
Co se týče deepfakes, ačkoliv se „uvěřitelnost“ výrazně posouvá kupředu zejména s rozvojem generativní umělé inteligence, stále mají podle Svitka své slabiny, které lze při odhalování falešných videohovorů využít.
„Při méně sofistikovaných podvodech se útočník snaží zakrýt špatnou kvalitu videa nízkým rozlišením, rozostřením, trháním neboli neplynulostí videa,“ vysvětlil Svitek.
Útoků na banky bylo meziročně trojnásobek. Trendem jsou falešné telefonáty |
Sofistikovanější útoky vypadají na první pohled důvěryhodněji, ale při detailnějším pohledu se může objevovat „plastická“ mimika tváře, neproporcionální symetrické rysy jako levé ucho výrazně jiné než pravé.
Expertům tak při odhalování deepfake obsahu pomáhá analýza obličejových rysů, sledují také nejasnosti v okolním prostředí nebo nekonzistentní osvětlení. Dnes už také existují nástroje a softwary navržené přímo k detekci deepfake obsahu. Některé z nich využívají strojové učení a umělou inteligenci k analýze videa a identifikaci známých vzorů spojených s deepfake technologiemi.
„Nicméně, ani na ty se nelze stoprocentně spolehnout. Z praxe víme, že není výjimkou označení i zmanipulovaného obsahu za pravý. Nepomůže ani vodoznak, jelikož i ten je možné odstranit,“ dodali experti z Thein Security.
