Čtyři dny po teroristickém útoku v koncertní hale nedaleko Moskvy na sklonku března letošního roku Islámský stát vydal jedno ze stovek videí, v němž masakr více než 130 lidí oslavoval. Přes minutu a půl dlouhý klip se v ničem neliší od starších materiálů. Vlevo z pohledu diváka vidíme reportéra v přilbě a armádním oblečení, vpravo běží záběry z útoku. „Nebyla to teroristická operace, ale důsledek zuřícího boje mezi Islámským státem a zeměmi, které válčí proti islámu,“ říká angažovaným hlasem reportér.
Video se však od všech předchozích propagandistických materiálů lišilo, reportér byl totiž kompletně vygenerovaný pomocí umělé inteligence, včetně fotorealistického vzezření a hlasu. Klip je podle zjištění organizace SITE Intelligence Group součástí programu s názvem News Harvest, jenž má za cíl prezentovat teroristické akce po celém světě.
Od útoku v Rusku přináší každý týden souhrn toho nejdůležitějšího. „Umělá inteligence je pro Islámský stát bezkonkurenčním nástrojem. Jde o skvělý nástroj, jak rychle a efektivně šířit propagandu do celého světa,“ popisuje spoluzakladatelka SITE Intelligence Group Rita Katzová. Umělá inteligence radikálům neslouží pouze pro generování zpravodajských informací, ale i pro výrobu propagandistických plakátů a dalších materiálů.
IS pojal upálení jako reklamu. Je to pornografie krutosti, říká expertka |
Islámský stát se v dobách své největší slávy chlubil velkým audiovizuálním týmem. Do světa vypouštěl obrazově strhující videa, jež si ničím nezadala s hollywoodskou produkcí. V únoru 2015 například islámští teroristé pojali vraždu pilota Maáze Kasásby jako reklamu na smrt. Jordánec dlouhé minuty ve zpomalených záběrech umírá v plamenech. Autorka knihy o nevyřčených stránkách boje proti muslimským fundamentalistům Karima Bennouneová to označila za „pornografii krutosti“.
Západní technologie v rukách teroristů
Umělá inteligence práci extremistickým skupinám výrazně zjednodušuje. A nejde jen o rychlost, jakou lze pomocí snadno dostupných nástrojů informace dostat na internet. Umí rovněž generovat obsah, jenž je formou často nerozeznatelný od standardního zpravodajství. Pro správce sociálních sítí je tak extrémně složité rozpoznat, že jde o propagandistický materiál teroristů.
Ze soukromých diskuzních skupin sympatizantů Islámského státu je patrné, že dobře ví, jak mocným nástrojem pro ně umělá inteligence je. „Bylo by super, kdyby naši bratři produkovali videa podobná klasickým kanálům jako Al-Džazíra, aby to nebylo jen o čtení textu z papíru a promítání obrázků,“ zamyslel se v diskuzi uživatel s přezdívkou Al Kurdi 500.
„Technologie se rychle vyvíjí, s použitím umělé inteligence bude toto všechno mnohem jednodušší. Média jsou stejně důležitá jako boj v terénu, možná ještě důležitější. Mají obrovský dopad na smýšlení lidí,“ napsal sedm dní před útokem v Rusku. Nápadu se chytil uživatel Hisad a už 26. března zveřejnil pod hlavičkou News Harvest první umělou inteligencí generovaný videoklip.
Následovalo dalších pět videí, kde se dostalo i na akce teroristů v Nigeru, Kamerunu, Iráku a Sýrii. Z dostupných záběrů není jasné, jaký software sympatizanti teroristů používají, v diskuzních fórech však debatují například o programu společnosti Eleven Labs, který umí generovat realistický hlas.
Výkonný ředitel Institutu pro výzkum blízkovýchodních médií Steven Stalinsky pro list The Washington Post vysvětlil, že současná produkce ještě oficiálně nespadá pod mediální sekci Islámského státu, nevylučuje však, že má posvěcení nejvyššího vedení. Inzeráty na diskuzních fórech už ostatně do řad Islámského státu lákají mladé „mediální mudžahedíny“, kteří se vyznají v umělé inteligenci a softwaru na úpravu fotografií a střihu videí. „Média už čekají na váš útok,“ stojí v inzerátu.
Zájem o pokročilé nástroje na tvorbu propagandy projevila i al-Káida. Už na počátku února začala pořádat online workshop zaměřený na práci s umělou inteligencí. Zájemcům je k dispozici padesátistránkový dokument s názvem „Neuvěřitelné způsoby využití chatovacích botů s umělou inteligencí“, v němž se dozví vše potřebné pro tvorbu obrazových i textových materiálů. „ChatGPT je mocným nástrojem, pojďme se tedy podívat, co všechno s ním můžeme dělat,“ píše se v dokumentu.
Rozpory se svatým učením?
Ne všichni přívrženci Islámského státu však vidí v umělé inteligenci požehnání. Hisad se dostal na diskuzních fórech i pod palbu kritiky s odůvodněním, že zobrazování vygenerovaných lidských postav je zapovězené islámským právem. „Nevyobrazuj lidské postavy, je to haram,“ rozohnil se uživatel Hamed 123 pod jedním videem ze série News Harvest. „V den vzkříšení za to budeš potrestán,“ pohrozil autorovi videa.
Střelba v Rusku je částí zuřící války, uvedl Islámský stát v prohlášení |
Hisad se však nenechal odradit a svou tvorbu zkonzultoval s náboženskými autoritami. „Šel jsem si o tom promluvit se šejkem. Řekl, že je to opravdu haram, ale stačí, když postavě rozmažu obličej. Proto teď moje videa vypadají takto,“ odpověděl. V pozdější produkci News Harvest už vygenerovaní reportéři působí více karikaturně a mají zastřenou tvář.
I přes podobné zádrhely ve výkladu islámského práva je umělá inteligence podle Aaron Zelina z Washingtonského institutu pro blízkovýchodní otázky dokonalým nástrojem pro šíření propagandy. Obsah může vytvářet takřka každý. „Je to jednoduché, čím více naházíte špaget na zeď, tím spíš se tam některá udrží,“ popisuje Zelin. Přesycení sociálních sítí extremistickým obsahem podle něj zajistí, že islamisté do svých spárů uloví mnohem více mladých lidí.
