Sobota 4. července 2020, svátek má Prokop
  • schránka
  • Přihlásit Můj účet
  • Sobota 4. července 2020 Prokop

Svlékněte jakoukoli ženu, lákal program. DeepNude generoval „nahé“ fotky

aktualizováno  11:30
Neznámý estonský programátor vytvořil program, který naplnil sny puberťáků. Software DeepNude totiž za pomoci strojového učení umí vysvléknout ženu na fotografii. Programátor již oznámil, že aplikaci znepřístupnil z obavy před zneužitím.

O webovou aplikaci, která umí „svléknout“ ženu na fotografiích, byl obrovský zájem. ilustrační snímek | foto: montáž: Pavel Kasík, Technet.czProfimedia.cz

Ukázka „deep fakes“ fotomontáže: vlevo pornografický klip, vpravo tvář herečky...

Video s falešnou Gal Gadot, které odstartovalo deep fakes mánii koncem roku 2017.

Pamatujete ještě na „deep fakes“, videa vytvořená neuronovou sítí, kde je obličej jednoho člověka nahrazen obličejem člověka jiného? Nejčastějším využitím tohoto nástroje byla tvorba pornografických materiálů, obvykle anonymní tvůrci nalepili tvář známé herečky na pornografický klip. Sociální sítě, včetně Twitteru a Redditu, na začáku roku 2018, několik týdnů po jejich masivnějšího nástupu, zakázaly šíření těchto klipů, které odborníci označili za „nedobrovolnou pornografii“ (více v našem článku).

Jak vypadají a fungují tzv. deep fakes (video Technet.cz):

Na myšlenku aplikace DeepFakeApp letos navázal „malý tým“ anonymních programátorů z Estonska nástrojem DeepNude. Zatímco autor DeepFakeApp koncem roku 2017 víceméně tvrdil, že jde o výzkumný experiment, nový DeepNude nechodil kolem horké kaše: z fotky žen dělá pomocí analýzy obrazu a strojového učení fotky nahých žen. A nikoli zadarmo, ale za peníze. Prémiová verze, která dělá nahé fotky bez vodoznaku, stála 99 dolarů (přes dva tisíce korun).

Aplikace DeepNude (ukázka, redakčně rozmazáno)

Aplikace DeepNude (ukázka vytvořená autorem programu, redakčně rozmazáno)

Aplikace DeepNude se však na webu dlouho neohřála. Napřed web nevydržel masový zájem, později sám autor na základě negativní zpětné vazby oznámil, že „z důvodu hrozícího zneužití“ aplikaci bez náhrady stahuje. Těm, kdo si pořídili placenou verzi, nabídl vrácení peněz.

Po webu nyní kolují různé verze původní aplikace. Bezpečnostní odborníci varují uživatele, aby ji nestahovali, protože se z ní stal oblíbený trojský kůň pro šíření škodlivého software.

Jak aplikace fungovala

Na aplikaci jako první z velkých médií upozornily weby Vice a Verge. „Oblečení nahradí počítačový program obnaženými prsy a vulvou,“ uvedl Vice. „Když jsme do aplikace dali fotku muže, program nahradil kalhoty vulvou.“ Je tedy zřejmé, že neuronová síť aplikace se trénovala pouze na fotkách nahých žen.

Tvorba svlečené fotomontáže v aplikaci DeepNude
Tvorba svlečené fotomontáže v aplikaci DeepNude

Tvorba svlečené fotomontáže v aplikaci DeepNude

„DeepNude fungovala různě dobře na různých fotkách. Nejlépe si poradila s fotkami, na kterých oblečení už tak odhalovalo hodně,“ uvedl redaktor, který aplikaci vyzkoušel. „Vyzkoušeli jsme aplikaci na desítkách fotek, nejkvalitnějších výsledků jsme dosáhli na obrázcích s vysokým rozlišením.“

Tvorba svlečené fotomontáže v aplikaci DeepNude

Tvorba svlečené fotomontáže v aplikaci DeepNude

Aplikace naprogramovaná v Pythonu zabrala po stažení přes 1 GB místa na disku. Ve verzi zdarma umožnila vytvoření obrázku, do kterého bylo vloženo logo aplikace a vodoznak. Placená verze nevkládala vodoznak a logo, ale stále vložila do výsledného „svlečeného“ obrázku několik menších nápisů „fake“, aby tak upozornila na to, že jde o fotomotnáž.

Generativní adversiální neuronová síť (GAN) se trénovala na desítce tisíců fotek nahých žen, podle programátora proto, že „bylo jednodušší je na webu nalézt“.

Jak funguje strojové učení generující "fotky"

Generativní adversiální síť GAN

Podle informací Technology Review programátor DeepNude využil tzv. generativní adversiální síť (Generative adversial network, zkráceně GAN). Tato síť jsou vlastně dvě neuronové sítě: tvůrce a kontrolor.

Celý proces je relativně zdlouhavý a komplikovaný, ale základní princip je jednoduchý. Tvůrčí síť začne generovat obrázky dle těch, na kterých se trénovala. Síť "Kontrolor" se snaží tyto (zpočátku náhodně) generované obrázky odlišit od skutečných fotek. Tvůrčí neuronová síť dostane informace o tom, které její výtvory sítem prošly a které ne, a díky tomu se postupně učí, jak lépe vytvářet uvěřitelné obrázky.

Výsledky, které Technet.cz mohl posoudit, nevypadaly většinou realisticky a rozhodně nedosahovaly úrovně profesionálně vytvořených montáží. Ve změněných částech fotky se objevovaly žluté artefakty podobné kompresi JPEG, anatomie vypadala místy nerealisticky, detaily prozrazovaly, že s fotkou není něco v pořádku. Generativní síť zřejmě nebyla natrénována a vyladěna tak profesionálně, jako tomu je třeba u generování tváří od vědců NVIDIA (a i tam občas vznikají nerealisticky vypadající výtvory).

Rychlost a automatizace výroby nahých montáží ale ukazovala, že lidé, kteří mají motivaci a dostatek času nazbyt, by s jejím využitím dokázali produkovat fotky svlečených žen, které by na první pohled nebo v nízkém rozlišení mohly působit důvěryhodně. To vše s minimálním úsilím a na fotce naprosto jakékoli ženy.

Hrozilo zneužití aplikace

Vývojářský tým krátce po zveřejnění oznámil konec projektu. A důvod? Prý šlo původně o projekt vytvořený pro zábavu, ze kterého se neměla stát masová záležitost. Vzhledem k obřímu počtu zájemců je prý vysoká pravděpodobnost zneužití jejich „svlékacího“ softwaru.

Je těžké si představit "legitimní využití" svlékací aplikace, za které by byli uživatelé ochotni platit. Naopak způsobů, jak počítačem svlečené motnáže žen zneužít, je bezpočet: vydírání, šikana, poškození pověsti, pomsta...

To samozřejmě kontrastuje s tím, že aplikaci nabízeli za peníze a měli připravený i navazující on-line službu, která umožnila svlečené fotky objednávat bez nutnosti instalace. Těžko je možné tvrdit, že autora nenapadlo, že by mohlo dojít ke zneužití. Jen těžko si lze představit legitimní využití takové aplikace, za které by zároveň byl někdo ochoten zaplatit tisíce korun.

Různých forem zneužití takové aplikace je naopak bezpočet: vydírání, veřejné zesměšňování, šikana, pomsta, poškození něčí pověsti atd. Všechny způsoby, kterými lze zneužít reálné nahé fotky, ovšem s tím rozdílem, že v tomto případě žena nemůže nijak zabránit jejich vzniku.

Autor aplikace informoval, že již neuvolní žádnou novou verzi a neumožní ani další použití webové aplikace. „Nechceme takto vydělávat peníze,“ dodal.

27.června 2019 v 20:11, příspěvek archivován: 28.června 2019 v 11:04

https://t.co/8uJKBQTZ0o

Za jeden falešný obrázek obnažené ženy si totiž účtoval 50 dolarů
(zhruba 1 100 Kč), jinak tělo zakryl vodoznak. „Svět ještě není na DeepNude připraven,“ uzavřel sdělení poněkud pokrytecky neznámý estonský programátor.

Na síti vzbudila aplikace různé – a celkem předvídatelné – reakce, ne nepodobné těm v případě pornografických montáží deep fakes. Naprostá většina uživatelů byli muži, naprostá většina obětí ženy.

„Aplikace DeepNude potvrzuje naše největší obavy ohledně toho, jakými jedinečnými způsoby mohou být audiovizuální nástroje zneužity proti ženám,“ uvedla pro Technology Review Mutale Nkode, výzkumnice Data and Society Research Institute. Aplikace zcela nepokrytě cílila na mužské publikum a nezastírala fakt, že uměla generovat pouze ženské pohlavní znaky.

Aplikace "obnažovala" jen ženy, s muži si poradit neuměla

Programátor, který si zachovává anonymitu a vystupuje pod přezdívkou „Alberto“, ruským novinářům sdělil, že jej inspirovala idea „rentgenových brýlí“ z dětství. Pro projekt použil algoritmus, který se používá k „dokreslení“ neúplných objektů. DeepNude přirovnal k Photoshopu, ve kterém lze dosáhnout stejných výsledků.

Aplikace X-Ray už na webu DeepNude není, vývojáři ji stáhli.
Placená verze programu DeepNude odstranila z vygenerované montáže vodotisk a...

Placená verze programu DeepNude odstranila z vygenerované montáže vodotisk a logo, nechala však několik nápisů „fake“ (redakčně rozostřeno).

V licenčním ujednání sice tvrdil, že každý obrázek upravený softwarem DeepNude je „falešnou parodií“ a že jde o „zábavu nepropagující sexuálně explicitní obrázky“, nicméně server Verge upozornil, že aplikace působí v právní „šedé zóně“. To, že je obrázek montáží, neznamená, že bude jako montáž vždy chápán. Tvorba takové montáže tedy může mít reálné následky.

Huffington Post například popisuje příběh osmadvacetileté ženy, která se stala terčem videomontáže typu „deep fake“. Někdo její obličej „narouboval“ na pornografické video a výsledek šířil po síti mezi její přátele a známé. Přestože žena věděla, že nejde o její video, byl výsledek děsivě realistický. „Bylo to hrozné,“ popsala žena. „Nikdy jsem nic takového neviděla. Když jde o fotomontáž, je to statická fotka a je celkem evidentní, že může být falešná. Ale když je to váš vlastní obličej, který se pohybuje a reaguje na okolí, vyvolává to ve mně paniku. Nemůžete ovlivnit, co lidé s vašimi fotkami udělají.“

Výsledky jsou nedokonalé. Zatím

Právě ženy jsou – i vzhledem k tomu, že ženská nahota je obvykle vnímána jinak než nahota mužská – častější obětí různých forem kyberšikany. Někdy jde o vydírání nahými fotkami, jindy o zveřejnění nahých fotek a videí bez svolení (tzv. revenge porn). Obrana proti takovému zásahu do soukromí a důstojnosti je složitá a mnohdy vyčerpávající.

Jak videa vytvořená aplikací FakeApp, tak „svlečené“ fotografie vytvořené aplikací DeepNude, obvykle obsahují řadu indicií, které prozradí, že jde o fotomontáž generovanou počítačem. Videa například mají problém napodobit přirozený pohyb očí, také vlasy před obličejem způsobí tvorbu artefaktů jasně prozrazujících, že jde o montáž.

Externí obrázek

Ukázka "deep fake" montáže. Vlevo původní video, vpravo montáž.

Pokud si však někdo dá práci s vyladěním parametrů a vytrénováním modelu pro nahrazování obličeje, může pomocí strojového učení dosáhnout fotorealistických výsledků. Takové video pak lze využít například pro dehonestaci politického protivníka. Nebo pro testování toho, jaké jsou hranice umění a osobnostních práv.

Falešné video s podobou Marka Zuckerberga:

07.června 2019 v 16:15, příspěvek archivován: 28.června 2019 v 18:00

Zatímco tvorba fotomontáží tradičními metodami vyžaduje čas a určité schopnosti či praxi, nové algoritmy využívající strojového učení začínají generovat stále realističtější obrazy a videa. Toho lze zneužít na jednotlivé úrovni k vtípkům a šikaně, v masovém měřítku pak třeba k šíření poplašné zprávy nebo dehonestaci politika v klíčový okamžik. Obrana bude složitá. Musíme si zvykat na to, že vidět neznamená věřit.

„Technologie není neutrální,“ připomíná Sam Gregory, šéf neziskové organizace Witness zabývající se využívání audiovizuálních nástrojů při ochraně lidských práv. „Tato aplikace nemá jedno dobré a jedno špatné použití. Byla vytvořena z amorálních pohnutek. Měli bychom se soustředit na to, jaká etická pravidla a normy platí při tvorbě nástrojů pro vytváření obsahu.“

Počítač si umí vymyslet náhodnou tvář člověka, který neexistuje (2019):

Aktualizace: Do článku jsme připojili informace o tom, jak program fungoval. Doplnili jsme vysvětlení sítě GAN.

Přechod na DVB-T2

Od 27. 11. probíhá postupný přechod na vysílací standard DVB-T2. Kvůli koronavirové pandemii vláda rozhodla o odložení zbývajících přechodů na vysílání DVB-T2. Diváci si tak musí pořídit televizi s podporou kódování H.265 (HEVC) nebo starší televizi doplnit vhodným set-top boxem.

  • Nejčtenější

Spletli se při navigaci. Stíhačky jim za to udělily trest smrti

K troskám izraelského civilního letadla sestřeleného bulharskými stíhačkami se jako první dostali místní. Odnesli, co...

Varování: probíhá útok na RDP protokol pro vzdálený přístup k počítači

O probíhajícím útoku na protokol RDP, který je používán některými programy pro vzdálený přístup k ploše, informovala...

CERN udělal první krok k novému stokilometrovému urychlovači částic

Evropská laboratoř jaderného výzkumu známá pod mezinárodní zkratkou CERN přijala novou aktualizaci strategie výzkumu....

Spojené státy mají covidový problém. I lepší nástroje na jeho zvládnutí

V USA se virus SARS-CoV-2 podle všeho rychle šíří ve státech, které se během jara nejhoršímu vyhnuly. Není jasné, zda v...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Bulharské MiGy raději zabíjely, než by nechaly civilní stroj proletět

Těsně před půl osmou ráno 27. června roku 1955 dopravní letoun Lockheed Constellation společnosti El Al na cestě z...

Největší slabiny ojetých dodávek. Přinášíme přehled nejporuchovějších vozů

Premium Dodávky byly stvořeny pro práci. Najedou mnohem více kilometrů než osobní auta, a to v náročných podmínkách. Ne všechna...

Schizofrenní žena, nechtěná emigrace. Zachránila ho Nemocnice na kraji města

Premium Kde je hranice skutečné lásky? Kdy končí vztah a začíná tyranie? Ladislav Chudík na tyto otázky dlouhé roky marně...

VELKÝ TEST ZOO: přehled cen, zvířat i atrakcí. Přijeďte, pomůžete!

Premium Mají otevřeno 365 dní v roce, ať praží slunce, nebo se žení čerti. Na několik týdnů je zavřel až koronavirus. Chcete...

  • Další z rubriky

Lenovo varuje před instalací aktualizace Windows na některé notebooky

Nedávno vydaná větší aktualizace Windows může u některých přenosných počítačů Lenovo vyvolat řadu problémů. Firma...

Program měl najít ženský orgasmus, jeho tvůrci nyní čelí kritice

Stačil jeden tweet z prezentace o produktu, který má na základě strojového učení údajně odhalit ženský orgasmus, a na...

Aplikace: Pohodlné přehrávání z YouTube či alternativní prohlížeče

Přehled šikovných aplikací tentokrát představí například aplikaci na správu souborů v mobilních zařízeních, nové verze...

Windows po aktualizaci řeší další problém. Uživatelům mizí tiskárny

Microsoft řeší další problém nedávno vydané aktualizace pro Windows 10. Chyba se projevuje tak, že uživatel není...

SOUTĚŽ: Vyhrajte hodnotné vouchery na spodní prádlo z Trenýrkárny
SOUTĚŽ: Vyhrajte hodnotné vouchery na spodní prádlo z Trenýrkárny

Vybavte se na léto sexy prádlem nebo pohodlnými trenýrkami díky voucheru do e-shopu Trenýrkárna.cz.

O novém vztahu jsem svého manžela informovala, říká Světlana Witowská

Moderátorka Světlana Witowská (47) kromě konce v hlavních zpravodajských pořadech České televize řeší také nový vztah....

Výpadek systémů T-Mobilu pokračuje. Operátor přestal účtovat mobilní data

Už téměř 24 hodin nefungují T-Mobilu interní systémy. Podle operátora si náprava vyžádá desítky hodin. Problém nastal v...

Peníze zapomněla v bankomatu, poctivého nálezce odmítli v bance i na úřadě

Stát se to může každému z nás. Jsme zamyšlení, roztržití nebo nám zrovna zazvoní telefon a tak transakci u bankomatu...

Bývalá pornoherečka Mia Khalifa žádá stažení videí. Fanoušci sepsali petici

Fanoušci bývalé pornoherečky jménem Mia Khalifa (27) požadují v nové petici, aby byla z internetu stažena veškerá videa...

Místo litrů mléka denně nasadil dietu. Zhubl sto čtyřicet kilo

Ještě před pár lety vážil Phil Kayes z Velké Británie dvě stě padesát kilogramů a lékaři ho varovali, že se kvůli...