ilustrační snímek
Hned na začátku je třeba říci, že to, co v současnosti nazýváme umělou inteligencí, není ve stavu, že by mohlo převzít vládu nad světem. Přesto je to nástroj, který ve špatných rukou může napáchat velké škody. Systémy strojového učení jsou prostě pořád jenom stroje bez emocí a nemají žádný záměr. A jako takové nástroje je lze i zneužít. A jaké jsou současné hrozby?
Obecně se dá říci, že největší problém mohou způsobovat tzv. deepfake fotky, videa, zvuky. Je to dáno tím, jak vnímáme svět a čemu jsme ochotni uvěřit. Ostatně okřídlená věta „jedna fotka vydá za tisíc vět“ nevznikla jen tak.
Už jsme se naučili, že ne všechno vyslovené je pravda, že „papír snese vše“ a jsme v těchto případech obezřetnější, ale například u fotografie budeme náchylnější věřit, že je to důkaz určité situace. A to i když i doposud existovaly velice dobré podvrhy. Ale aby byly důvěryhodné, tak jejich výroba trvala poměrně dlouho. Příchod a další vylepšování generativní umělé inteligence však umožní takové podvrhy dělat jako na běžícím pásu. Kombinace rychlosti vzniku, a tím pádem i množství, a stále větší dokonalosti výsledných fotomontáží tak dělají tyto podvody nebezpečnějšími.
Můžeme se nyní nechat ukolébávat, že při podrobnějším zkoumání objevíme na pozadí nebo nebo jinde nesrovnalosti. Ale kdo má dnes čas zkoumat jednu fotografii po druhé, zvláště, když její vyznění nám zapadne do našeho světonázoru.
Ještě nedávno jsme se například smáli, jak nám ve výstupech ze systémů generujících obrázky neseděl počet prstů , ale neustálým učením se i tento problém daří systémům postupně překonávat. Není se tak co divit, že někteří naletěli obrázku, na kterém se objevil papež v luxusní péřové bundě, ostatně, kdo by zkoumal, zda někde na obrázku není něco podivného, když to není nic důležitého.
A nemusí jít jen o falešného papeže, minulý týden vyhrála soutěž fotografů umělá inteligence s vymyšleným obrazem. A nikdo nic nepoznal.
Poznáme se po hlasu?
Možná ještě nebezpečnější je další novinka. Systém, který na základě několikasekundové nahrávky dokáže s poměrně velkou přesností replikovat hlas. Microsoft tento systém nazval VALL-E a zatím neumožnil jeho veřejné testování právě kvůli tomu, že se bál jeho zneužití.
Scénářů, jak tento systém zneužít, najdete spoustu, zvláště když se daří napojit tento systém, který funguje na bázi „převeď text na hlas“, na systém „převeď hlas na hlas“. Jinými slovy, místo toho, abyste zadali text, který stroj přečte, mluvíte a sytém rozpozná, co říkáte a převede to na generovaný hlas. Zvláště když si uvědomíte, že některé instituce či systémy využívají hlas jako jeden z identifikačních znaků, v jiném případě se může někdo na telefonu vydávat za vašeho příbuzného a nebo přítele.
K získání vašeho hlasového otisku přitom stačí, aby člověk zvedl telefonát z neznámého čísla a slušně jej odmítl.
Teď ještě k tomu přidejte systém, který umožní v reálném čase virtuálně rozhýbat fotografii tak, aby vypadala, že mluví, a můžete takto lákat peníze nebo hesla z nic netušících obětí.
Sociální inženýrství na míru
Dříve uvedené příklady toho, jak nás může umělá inteligence v rukou nebezpečného člověka ohrozit, jsou zatím spíše ojedinělé, byť se mohou vyskytovat častěji.
Ale další už nám klepou na e-mailové schránky. Možnost generovat velké množství textu prostřednictvím umělé inteligence nehrozí jenom tím, že nám dokáže zahltit naše spamové koše, ale mnohem jednodušeji dokáže připravit text na míru.
To je voda na mlýn všem, kdo provozují sítě falešných účtů. Nyní mohou jednoduše vygenerovat výrazně více materiálu se stejnou pracovní silou. Ty sofistikovanější přístupy pak využijí digitální stopu potenciální oběti a získané poznatky využijí k přesnému zacílení. Je jedno, jestli jim půjde o prodej nějakého produktu nebo o změnu nálady většího množství lidí například před referendem nebo volbami.
A pokud si říkáte, že by si to měli ošetřit samotní tvůrci systémů generativní umělé inteligence, pak vězte, že nemusejí mít na tyto systémy monopol. Již existují řešení, která lze provozovat na výkonném počítači, i když mají svá omezení.
Schopnosti umělé inteligence vygenerovat na požádání počítačový kód je také jednou z nočních můr, která trápí odborníky na bezpečnost. Umožní to mnohem rychleji generovat různé varianty virů a falešných stránek, na které budou útočníci lákat neopatrné uživatele.
Falešná stránka napodobující mBank
S příchodem těchto nástrojů umělé inteligence se tak chtě nechtě musíme stát ještě obezřetnějšími a dávat si pozor především při pohybu na internetu. Na druhou stranu bychom se těchto nástrojů neměli bát využívat tak, aby nám usnadnily život.
