Jeden z nich, který zveřejnil jistý uživatel na síti X, nasbíral 47 milionů kliků, než byl účet ve čtvrtek zmrazen. Správci sociální sítě miliardáře Elona Muska museli následně pozastavit řadu dalších účtů, které zveřejňovaly falešné fotky populární zpěvačky. Lavina se ale už rozjela – obrázky nasdíleli uživatelé internetu na jiných platformách sociálních médií. A šíření pokračovalo dál navzdory snaze správců je odstranit.
Zatímco síť X oznamovala, že pracuje na odstranění falešných fotek, fanoušci popové superstar zaplavili platformu protesty. Zveřejnili související klíčová slova, například „Protect Taylor Swift“ (Chraňte Taylor Swift), aby narušili sdílení snímků a zkomplikovali jejich dohledání.
Firma Reality Defender, která se zabývá kybernetickou bezpečností zaměřenou na odhalování umělé inteligence, s devadesátiprocentní jistotou určila, že snímky někdo vytvořil pomocí takzvaného difúzního modelu. Tedy technologií řízenou umělou inteligencí, která je dostupná přes více než sto tisíc aplikací.
Taylor Swift míří s turné do evropských měst. Zájem o letenky raketově roste |
Jak se odvětví umělé inteligence neustále rozvíjí a získává na obrovské popularitě, společnosti se předhánějí ve vydávání nástrojů, které uživatelům umožňují vytvářet obrázky, videa, textové a zvukové nahrávky co nejjedodušším způsobem. Snadná je pak i manipulace. Upravené fotky nebo videa zobrazují lidi v situaci, ve které by dobrovolně nikdy nebyli. Tedy aspoň na veřejnosti.
Celebrity tomuto problému čelí už dlouho například v pornografickém průmyslu. Už i v Česku už je populární vkládat například politikům do úst věty, které ve skutečnosti neřekli.
Šíří se obavy, že „deepfake“ se stává mocnou dezinformační silou, která bude umělé, leč stále dokonaleji dostávat lidi do trapné pozice. Teenageři pod tlakem kvůli tomu páchají i sebevraždy.
Před pornem nás ochrání víra a umělá inteligence, věří americké církve |
Síť X ujišťuje, že dodržuje „politiku nulové tolerance“ vůči škodlivému obsahu. Poté, co Elon Musk koupil službu v roce 2022, platforma zaznamenala nárůst problematického obsahu včetně obtěžování, dezinformací a nenávistných projevů. Pravidla pro jejich kontrolu ke všemu X uvolnila a také obnovila účty, které byly dříve zakázány.
Přestože mnoho společností, které vyrábějí generativní nástroje umělé inteligence, zakazuje svým uživatelům vytvářet explicitní snímky, lidé nacházejí způsoby, jak pravidla porušovat.
Případ zpěvačky Swift oživil výzvy amerických zákonodárců, aby úřady zakročily. Demokratická politička Joe Morelle z New Yorku označila situaci za děsivou a připomněla, že loni představila návrh zákona, který by ze sdílení takovýchto snímků udělal zločin trestaný na federální úrovni. „Ženám se to stává všude a denně,“ dodala.
K šíření fotek se vyjádřila i mluvčí Bílého domu Karine Jean-Pierre. Označila ho za „alarmující“.
27. října 2023 |
