Vedle již tradičních témat, které se ve výroční zprávě BIS objevují rok co rok, se ve veřejné části té aktuální můžeme dočíst i o varování před vlivem obsahu vytvořeným umělou inteligencí.
Rusko je pro Česko největší hrozbou, uvádí BIS. Snaží se i čínští špioni |
„V roce 2022 začaly být veřejnosti dostupné nástroje založené na umělé inteligenci, které vytváří syntetický obsah ve všech multimediálních formách, tedy syntetické video (deepfake), fotografie, audio (hlasy osob) a text,“ začíná text naší kontrarozvědky.
BIS připouští, že se takto upravené multimediální soubory a nástroje umělé inteligence (AI) mají své místo v zábavě nebo vzdělávání, ale na druhou stranu upozorňuje, že mohou být zneužity při páchání zločinů a šíření dezinformací. Ve výčtu uvádějí i prank calls (žertovné telefonáty, pozn. red.), tedy telefonáty, při nichž se telefonující vydává za někoho jiného, aby druhého člověka zesměšnil nebo od kontaktované strany vyzvěděl určité informace.
„Ruská invaze na Ukrajinu pak přinesla i první využití syntetického média ve válce (deepfake videa prezidenta Zelenského), jehož případný negativní dopad byl eliminován velmi rychlou protiakcí,“ píše BIS ve výroční zprávě.
Falešná kapitulace Zelenského je start, deepfakes změní svět, říká odborník |
Podobně, jako jsme i my upozorňovali na to, že AI výrazně urychlí vytváření a vystavování podvodného obsahu, i BIS varuje, že potenciál syntetických informací je násoben automatickým umisťováním do informačního prostoru, typicky na sociální sítě nebo do diskusí na zpravodajských serverech.
„Za nejrizikovější z běžně dostupných médií považuje BIS syntetický text, který umožňuje vytváření nekonečného množství obsahově odlišných dokumentů se stejným poselstvím, které mohou veřejný prostor zcela zahltit požadovanou agendou. Vytváření syntetického textu je navíc oproti audiovizuálnímu obsahu výrazně levnější a je také obtížněji odhalitelné,“ varuje česká kontrarozvědka.
BIS dále upozorňuje, že rozvoj syntetických médií umožní zpochybnit reálné události, prohlášení nebo skutečné důkazy jako uměle vytvořené. Jejich odhalování bude stále složitější i proto, že nástroje a postupy na odhalení takových podvodů jsou jen omezené, což se týká především těch automatických, které by si mohly se záplavou podvrženého obsahu poradit.
„Zneužívání syntetických médií v masivním měřítku doposud brání mimo jiné technická omezení běžně dostupných nástrojů. V budoucnu budou tyto překážky odstraněny a zneužívání technologií v informačním prostoru bude nabývat na intenzitě,“ uzavírají tuto část výroční zprávy věnované AI pracovníci BIS.
