Také už jste možná někdy řešili, zda obrázek, na který se díváte, je pravý, anebo upravený v nějakém editoru, případně kompletně vytvořený pomocí nástroje na generování obrázků umělou inteligencí. Můžete sice použít některý z ne vždy spolehlivých nástrojů pro rozpoznávaní AI výtvorů, ale jistější je se u těch důležitých materiálů snažit vystopovat původ.
Řada firem, které vytvářejí systémy generující obrázky, spolupracuje v rámci iniciativy C2PA (Coalition for Content Provenance and Authenticity). Tento standard slouží k tomu, aby byl příslušný obsah vybaven metadaty, která jasně uvádějí, že je snímek či video vygenerováno. V podstatě tak mají obsahovat informace o tom, jak byl daný obsah vytvořen, jak byl změněn a co bylo změněno.
To však podle výzkumníků z ETH Zurich nestačí, protože C2PA může být hacknuto a údaje upraveny. Navrhují proto alternativní systém – senzorovou technologii, která kryptograficky podepisuje obrázky, videa a zvukové signály přímo při zachycení pomocí snímacího čipu a mikrofonu.
„Pokud jsou data podepsána v okamžiku, kdy jsou zachycena, jakákoli pozdější manipulace zanechá stopy,“ vysvětluje jeden z výzkumníků Fernando Cardes. „Aby bylo možné manipulovat s daty, musel by být čip fyzicky napaden, což by vyžadovalo značné technologické úsilí, takže masová generace manipulovaného obsahu pro platformy sociálních médií by byla prakticky nemožná.“
Jak připomíná Jesus Diaz z Fastcompany, C2PA se naopak spoléhá na procesor fotoaparátu, který podepisuje fotografie kryptografickou pečetí. Digitální informace ze snímače se tak nejdřív musí přenést do procesoru fotoaparátu. Jakmile tam data dorazí, přidá kryptografický podpis. A právě na této cestě může do procesu vstoupit útočník, který může zachytit skutečný datový tok a nahradit ho falešným. Fotoaparát by pak pečeť C2PA vložil na podvržený obsah.
Metoda vyvinutá na univerzitě ETH Zurich tuto zranitelnost eliminuje, protože podpis generuje senzor a ukládá ho do veřejně přístupné, neměnné databáze (například blockchainu).
Popis funkce ověření originality snímku přímo na čipu
Tento přístup by umožnil komukoli kdykoli ověřit pravost daných dat porovnáním podpisu čipu uloženého v účetní knize s původními daty a potvrzením jejich zdroje.
Autoři uvádějí, že v zásadě lze tuto technologii začlenit do jakéhokoli typu snímače, ale znamenalo by to vytvoření zcela nového hardwarového řešení. C2PA má tu výhodu, že ji lze nasadit prostřednictvím aktualizací softwaru a firmwaru.
„V současnosti zkoumáme, jak snížit náklady pro výrobce kamer a senzorů, pokud by chtěli tuto novou technologii začlenit do svých čipů,“ dodal Cardes.
