V neděli začala platit pravidla transparentnosti podle čl. 50 Aktu o umělé inteligenci (AI Act). Určuje povinnosti poskytovatele systému AI a také pravidla pro ty, kteří jej využívají při jiné než osobní neprofesionální činnosti.
Podle vyjádření Evropská komise (EK) nová pravidla platí pro zveřejňovaný obsah jako jsou text, obrázky, audio či video, které jsou vytvořené nebo zmanipulované pomocí umělé inteligence a které mohou působit jako autentické. Obsah musí být jasně označen jako uměle vytvořené.
V Česku bude vymáhat ČTÚ
Začíná ale rovněž vymáhání pravidel. Národní dozorové orgány i Evropská komise získávají pravomoci ukládat sankce za porušení ustanovení, která jsou již použitelná – tedy zejména zákazů nepřípustných praktik, ale nově i transparentnosti. Za porušení pravidel mohou firmám hrozit vysoké pokuty, které v případě porušení pravidel transparentnosti mohou dosáhnout až 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti.
V každém státu EU bude dodržování pravidel vymáhat orgán dozoru nad trhem příslušného členského státu Evropské unie, přičemž v České republice půjde o Český telekomunikační úřad.
AI ukazuje své schopnosti. Zvládne odmazat vodoznaky chránící autory |
Ten například doporučuje, že lze v praxi využít například označení nebo ikony typu „AI generated“ pro plně generovaný obsah nebo „AI modified“ pro obsah upravený pomocí AI. Příklady vhodných způsobů označení lze nalézt v Kodexu správné praxe pro transparentnost AI generovaného obsahu.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí,“ uvedl k novým pravidlům český advokát Jaroslav Kuba z poradenské společnosti Rödl. „Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle nových pokynů Evropské komise musí prozradit nejen že jsou umělou inteligencí, ale i za koho jednají,“ dodal.
Mezi takzvané deepfakes přitom Evropská komise podle českého advokáta výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, nebo virtuální influencery. „Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ dodal Kuba.
ČTÚ připomíná, že podle čl. 50 odst. 3 mají tzv. zavádějící subjekty využívající systémy AI pro rozpoznávání emocí nebo biometrickou kategorizaci fyzických osob povinnost řádně informovat o jejich použití každou dotčenou fyzickou osobu.
V podstatě to znamená, že když přijdete do prostor, kde jsou využívány třeba kamery napojené na AI, které rozpoznávají obličeje nebo emoce pro cílení reklamy, měli byste o tom být zpraveni.
Vyhýbáte se AI v obchodech? Umělou inteligenci využívá i COOP, má odhalit zloděje |
Evropská unie letos přijala takzvaný AI Omnibus – balíček změn, jehož cílem je zjednodušit některé povinnosti a upravit harmonogram zavádění aktu o umělé inteligenci, který mimo jiné odložil použitelnosti některých pravidel pro vysoce rizikové systémy umělé inteligence. Jde o systémy, které mohou významně ovlivnit bezpečnost lidí nebo jejich základní práva. Původně se povinnosti pro tyto systémy měly uplatňovat už od letošního srpna, nově se tak stane až od 2. prosince 2027.
