„Bylo by to legrační, kdyby problematika zneužívání AI (umělé inteligence) nebyla ve skutečnosti tak nebezpečná. Před bezpečnostní experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si informace,“ komentoval v sobotu deepfake video a hrozbu umělé inteligence ministr.
Deepfake video vzniklo v návaznosti na debatu v Karviné, které se odehrála v pondělí v rámci turné hnutí STAN a samotného Rakušana po českých městech zvané Debata bez cenzury. Samotný obrazový záznam je pravý, ale Rakušan v něm samozřejmě mluví o něčem jiném a před dávnou dobou.
„Odpovím na něco jiného“
„Právě odcházím ze Sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana v deepfake videu.
Můj první deepfake! Nebo spíš cheapfake? 😅
Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná. Před bezpečnostní experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si… https://t.co/rbQH4Vrb42 https://t.co/UFTRM1iw7F
Redakce iDNES.cz oslovila samotného Rakušana, zda kvůli podvrhu podal trestní oznámení či zda v rámci ministerstva plánuje systémové řešení pro boj s umělou inteligencí.
„Trestní oznámení jsem zatím nepodal, to video je hodně amatérské, takže je otázka, koho mohlo ve skutečnosti zmást, ale ještě se o tom poradím,“ uvedl pro iDNES.cz Rakušan.
Současně připomněl, že v rámci ministerstva už funguje pracovní skupina, která problematiku AI řeší. „Regulace se připravuje na úrovni EU, z té bude vycházet i naše vlastní regulace. Nezanedbatelná je i v tomhle případě také vlastní odpovědnost každého z nás. Například naše hnutí důsledně uvádí, které obrázky použité pro komunikaci byly vytvořeny s využitím AI,“ dodal ministr.
Deepfake videu čelil i premiér
Rakušan však není první český politik, který čelí deepfake videu. Nedávno mu čelil také premiér Petr Fiala. Deepfake video se rovněž šířilo prostřednictvím sociálních sítích.
„Co furt máte za problém, tak vám trošku sebereme více peněz, no. Však na tom nic není, já taky z vás peníze musím nějak dostat, abych se měl dobře. To taky není jen tak, z někoho dostat pár tisíc,“ vložila AI slova do úst premiéra, kdy však v daném deepfake videu není nikterak emočně modulován a AI hlas dávkuje. Buď jde o nedokonalou práci, nebo záměr, aby bylo patrné, že jde o „legraci“.
Vnitro reaguje na hrozby umělé inteligence. Chystá nástroj proti deepfakes |
Mluvčí ministerstva vnitra Miro Jašurek v neděli redakci iDNES.cz zopakoval, že na resortu už pracovní skupina, která se bezpečnostními aspekty souvisejícími s rozvojem AI, funguje.
„Co se týká legislativních změn, na úrovni EU je připraven AI Act, nyní se čeká na jeho finální schválení Evropských parlamentem. Tento předpis bude prvním nástrojem regulace AI. Po schválení finální verze bude následovat příprava národní regulace. MV aktuálně podporuje několik výzkumných projektů zaměřených na využívání AI,“ doplnil Jašurek.
Audiovizuální díla na počkání„Pokrok ve vytváření hlasového a obrazového obsahu pomocí AI rozostřuje hranice mezi pravými a zfalšovanými událostmi,“ varoval Miloslav Lujka z kyberbezpečnostní společnosti Check Point Software Technologies. Podle něj jsou nástroje stále dostupnější, takže roste obava, že bude téměř nemožné rozlišovat mezi autentickými zprávami a deepfake podvrhy, zejména pak v politické oblasti. „Ačkoli deepfake technologie měly původně sloužit zejména k finančním podvodům, už se staly i politickou zbraní. Během komunálních voleb v Chicagu se třeba objevil zfalšovaný zvukový záznam, na němž údajně kandidát Paul Vallas podporuje policejní agresi,“ pokračoval Lujka.  Na internetu se objevily i další podobné výmysly, které se vydávaly za Elizabeth Warrenovou nebo ukrajinského prezidenta Volodymyra Zelenského. „Tyto pokroky v oblasti umělé inteligence, schopnost vytvářet personalizované texty a vést dialogy na mikroúrovni, by mohly způsobit, že politické diskuse budou postrádat věcný základ,“ upozornil a současně dodal: „V kombinaci s vytvářením a šířením deepfaků to může mít dalekosáhlé důsledky pro demokratické procesy, protože se vytratí svobodná smysluplná výměna myšlenek a názorů.“ |
