Premium

Získejte všechny články
jen za 89 Kč/měsíc

Přichází rok, kdy nám AI ukáže, že nelze věřit ani vlastním očím a uším

Mnohem více než tisíce varujících upozornění a zpráv přinese reálná zkušenost. Platí to i pro podvrhy, s jejichž výrobou pomohla umělá inteligence. První falešné výstupy již zneužívají tváře či hlasy známých lidí, aby je poškodily nebo diváky či posluchače nalákaly na podvod.

Deep fake (ilustrační foto) | foto: Profimedia.cz

Vzpomínáte si, když jste poprvé využili ve videokonferenční aplikaci falešné pozadí? K prvním pokusům jste museli mít jednotné pozadí, ideálně zelené, a stejně výsledek vypadal na první pohled uměle a kolem hlavy vám při pohybu prosvítala „svatozář“. Postupně se to však měnilo a nyní ty nejpokročilejší technologie zvládnou relativně slušně vložit váš obraz snímaný webkamerkou do jiného prostředí, než v kterém se právě nacházíte, aniž by to bylo nějak poznat.

A nyní to zkusme obrátit. Co kdyby se místo vašeho obličeje objevil třeba Brad Pitt nebo Angelina Jolie. Lidé u displejů by tak tyto celebrity viděli v prostředí vašeho domova s pozadím vašeho pokoje. Před kamerou byste to přitom byli stále vy, ale jen by váš obličej byl nahrazen právě některým z těchto herců. Vše v reálném čase a s mimikou, kterou by systém převáděl na podvržený obličej.

Zatím je to hudba budoucnosti, ta ale není zase až tak vzdálená. Dobře vytrénované systémy umělé inteligence s velkým výpočetním výkonem v zádech už se této metě postupně přibližují. V kombinaci s podvrženým hlasem herců, který by říkal to, co chcete vy, bude iluze dokonalá.

Současné systémy takové klíčování v reálném čase ještě nezvládnou, tedy ne dokonale, a navíc potřebují docela dost dat k natrénování. Tím je myšlen dostatek vašich záběrů z řady úhlů a s různými grimasami, aby se mohl vytvořit avatar s uvěřitelným obličejem uživatele.

Získat takovou sadu obrazových dat je zatím nejjednodušší u veřejně vystupujících lidí. I proto se v poslední době jako houby po dešti vyrojily lákavé nabídky na investice, kde doporučují pohádkové zbohatnutí známí businessmani, politici nebo herci. A ne každý odolá a pozná, že je to podvrh, jak upozorňují lidé zabývající se kyberkriminalitou.

Na druhou stranu stačí populární aplikace, aby lidé taková data poskytli dobrovolně. I proto speciální aplikace BaiRBIE.me, která upraví vzhled s využitím systémů generativní umělé inteligence (gAI) tak, aby se lidé podobali postavám z filmu filmu Barbie, vyvolala varování příslušných úřadů po celém světě před jejím používáním.

Ještě jednodušší je získat vzorek hlasu. Stačí k tomu dostatečně dlouhý telefonát, v němž volající správnou taktikou dokáže z volajícího vyloudit i nějakou intonaci. Není si pak složité představit následný telefonát příbuznému seniorovi, kterého takto „ukradeným“ vzorkem hlasu vnoučka útočník přinutí nainstalovat si malware, který může vést až ukradení peněz z účtu.

Babi, pošli peníze. Podvody jsou kvůli umělé inteligenci čím dál věrohodnější

Zjednodušení výroby podvrhů

K podvodům se zneužitím identity na fotografii nebo upraveným videím docházelo ještě před současným rozvojem umělé inteligence, ale bylo velice složité a časové náročné takové podvrhy vyrobit.

Člověk, který chtěl vytvořit tzv. deepfake neboli kvalitní podvrh, se musel opravdu snažit. Bylo nutné, aby se naučil dobře pracovat s grafickým nebo video programem, a trvalo poměrně dlouho, aby byla složitější scéna upravena tak, aby odpovídala záměrům útočníka a zároveň byla při bližším zkoumání těžko odhalitelná. S nástupem generativní umělé inteligence, která umí vytvářet obrázky i videa, může toto úskalí útočník zvládnout rychle, pokud se naučí vytvořit správné zadání. Není to sice triviální, ale během několika chvilek může vygenerovat velké množství variant, které bude těžší jednu po druhé analyzovat.

Odborníci varují, že právě nyní, kdy bude na celém svět probíhat řada důležitých volebních klání, bude takových podvrhů přibývat téměř geometrickou řadou. Připravme se tak na to, že takovým útočníkům opravdu stačí jen několik hodin před hlasováním zaplavit sítě množstvím podvrhů v podobě hyperrealistických syntetických médií, které nebude možné jednoduše ověřit nebo vyvrátit – a směřování velkých skupin tak obrátit požadovaným směrem.

Podvodná videa s politiky policie neřeší, nemají „trestněprávní přesah“

V osobní rovině může být ještě větším problémem, pokud někdo vytvoří dehonestující obraz nebo video, jako se to stalo zpěvačce Taylor Swift. Nejde tu jen o známé osobnosti, šikana škole nebo na pracovišti tak už pomalu dostává nový rozměr.

Útočí doba postfaktická: nahé fotky, neočkované děti a vybílené účty

Nastává doba, kdy si u důležitých věcí budeme muset dávat ještě větší pozor než doposud a nevěřit vlastním očím a učím, pokud si vše neověříme. Nyní ještě můžeme některé takové podvody odhalit na detailech, které nesedí především v obličeji a jeho okrajích, či které mohou na některých částech jakoby splývat s pozadí. Kontrolovat také můžete detaily na těle zvláště při jeho pohybu nebo se soustředit na osvětlení a podivné stíny, ale bude to stále složitější.

Automatické systémy na odhalování takových podvodů nejsou přesné a ani virtuální razítka či vodoznaky u originálního obsahu nejsou všelék, protože i tato ochrana se dá nějakým způsobem obejít. Přesto boj s falešným obsahem nemá smysl vzdávat a pokoušejí se o něj různé organizace včetně českých univerzit.

Autor:

Kingdom Come: Deliverance 2

Pokračování úspěšného českého RPG Kingdom Come: Deliverance vychází již 4. února 2025 na PC, PS5, Xbox Series X a Series S.

Nejčtenější

Není to pěkné čtení. Vědci odhalili vážné hromadění plastů v lidském mozku

Věřili jsme, že mozek je oproti jiným orgánům v lidském těle před mikroplasty do jisté míry chráněn. Ukazuje se však, že to tak není. V mozcích lidí se dnes hromadí o 50 % více mikroplastů a...

Apple představil nová sluchátka. Lákají na funkci, kterou konkurence dávno má

Čekalo se, že Apple představí sluchátka Powerbeats Pro 2 spolu s telefonem iPhone SE. Jenže smartphone nikde, a sluchátka se navzdory tomu v tichosti objevila v nabídce. Jsou určena pro sportovce a...

Řada vůdců českého gestapa zemřela bez trestu, často v blahobytu, zjistili historici

Rozstřel

Historici Jan Vajskebr a Jan Zumr z Ústavu pro studium totalitních režimů představili v Rozstřelu svou novou knihu Gestapo, v níž zmapovali působení nacistické tajné policie během Protektorátu. V...

Model Tatry T813 vznikal dva a půl roku, práce se někdy protáhly až do rána

Nedávno jsme na Technetu vyhlásili vítěze soutěžní galerie o nejlepší modelářský výtvor. Nyní vám přinášíme příběhy některých z těchto vítězných modelů.

Cestující v ohrožení: Ze sestřelů je hlavní příčina pádů civilních letadel

Minulý týden vyšlo najevo, že se v troskách letadla ázerbájdžánských aerolinií, které havarovalo dva dny po Vánocích, našly fragmenty rakety z ruského protiletadlového systému. Teorie o sestřelu...

Nová generace AI Grok od Elona Muska má konkurovat nejlepším modelům

Elon Musk představil novou generaci svého chatbota Grok postaveného na velkém jazykovém modelu Muskovy firmy xAI. Podle jeho slov je to „nejchytřejší AI na světě“, ať už si pod tím představíte, co...

18. února 2025  16:40

Jestli lžete o svém věku na internetu, nejen Google to chce odhalit

To, jak se chováte na internetu, o vás vypovídá mnohé. Podle takto zjištěných vzorců chování uživatelů mohou marketingové firmy vytvářet profily a lépe cílit reklamu. Google chce za pomoci strojového...

18. února 2025

Po 80 letech ožívají raritní válečné snímky díky digitálnímu kolorování

U příležitosti blížícího se osmdesátého výročí konce druhé světové války se objevují některé méně známé fotografie z těchto let. Prohlédněte si je v barvě. Původně černobílé snímky byly digitálně...

18. února 2025

Řada vůdců českého gestapa zemřela bez trestu, často v blahobytu, zjistili historici

Rozstřel

Historici Jan Vajskebr a Jan Zumr z Ústavu pro studium totalitních režimů představili v Rozstřelu svou novou knihu Gestapo, v níž zmapovali působení nacistické tajné policie během Protektorátu. V...

17. února 2025

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!

To nechci, proč mi to Google nainstaloval do mobilu? Uživatelé se bouří

V posledních týdnech začal Google instalovat do telefonů s Androidem novou systémovou aplikaci, která má uživatele...

Shodila jsem 23 kilo. Táta říkal, že se na to nedá koukat, přiznala Cibulková

Bývalá slovenská profesionální tenistka Dominika Cibulková (35) po narození dětí výrazně přibrala. V rozhovoru pro...

Kanye West a Bianca Censori se rozešli, raper zveřejnil podivný vzkaz

Raper Kanye West (47) a jeho žena Bianca Censori (30) se podle zdrojů blízkých páru rozešli a směřují k rozvodu....

Muže děsí můj svalnatý zadek, popisuje žena problémy při hledání partnera

Třiadvacetiletá influencerka Kerolay Chavesová z Brazílie, kterou na Instagramu sledují miliony lidí, shání životního...

Mimozemšťani, bába pod kořenem. Skryté vtipy v Kingdom Come 2 jsou geniální

Česká středověká hra Kingdom Come: Deliverance 2 je venku už víc než týden a hráči postupně objevují více či méně...