ilustrační snímek
Hned na začátku je třeba říci, že to, co v současnosti nazýváme umělou inteligencí, není ve stavu, že by mohlo převzít vládu nad světem. Přesto je to nástroj, který ve špatných rukou může napáchat velké škody. Systémy strojového učení jsou prostě pořád jenom stroje bez emocí a nemají žádný záměr. A jako takové nástroje je lze i zneužít. A jaké jsou současné hrozby?
Obecně se dá říci, že největší problém mohou způsobovat tzv. deepfake fotky, videa, zvuky. Je to dáno tím, jak vnímáme svět a čemu jsme ochotni uvěřit. Ostatně okřídlená věta „jedna fotka vydá za tisíc vět“ nevznikla jen tak.
Už jsme se naučili, že ne všechno vyslovené je pravda, že „papír snese vše“ a jsme v těchto případech obezřetnější, ale například u fotografie budeme náchylnější věřit, že je to důkaz určité situace. A to i když i doposud existovaly velice dobré podvrhy. Ale aby byly důvěryhodné, tak jejich výroba trvala poměrně dlouho. Příchod a další vylepšování generativní umělé inteligence však umožní takové podvrhy dělat jako na běžícím pásu. Kombinace rychlosti vzniku, a tím pádem i množství, a stále větší dokonalosti výsledných fotomontáží tak dělají tyto podvody nebezpečnějšími.
Můžeme se nyní nechat ukolébávat, že při podrobnějším zkoumání objevíme na pozadí nebo nebo jinde nesrovnalosti. Ale kdo má dnes čas zkoumat jednu fotografii po druhé, zvláště, když její vyznění nám zapadne do našeho světonázoru.
Ještě nedávno jsme se například smáli, jak nám ve výstupech ze systémů generujících obrázky neseděl počet prstů , ale neustálým učením se i tento problém daří systémům postupně překonávat. Není se tak co divit, že někteří naletěli obrázku, na kterém se objevil papež v luxusní péřové bundě, ostatně, kdo by zkoumal, zda někde na obrázku není něco podivného, když to není nic důležitého.
A nemusí jít jen o falešného papeže, minulý týden vyhrála soutěž fotografů umělá inteligence s vymyšleným obrazem. A nikdo nic nepoznal.
