Evropský parlament přijal vyjednávací postoj 499 hlasy. Proti bylo pouze 28 poslanců a poslankyň a 93 se zdrželo hlasování. O konečné podobně aktu tak nyní bude dále jednat s Radou EU, kde jsou zastoupení ministři členských států.
Jedná se o vůbec první právní úpravu AI na světě. Cílem je mimo jiné nastavit vývojářům a uživatelům umělé inteligence jasná pravidla, a zároveň tím zajistit důvěru lidí ve využívání této technologie.
Podle pirátského europoslance a kvestora Evropského parlamentu Marcela Kolaji, který se na legislativě podílel, většinu systémů pravidla neovlivní. „Legislativa se bude vztahovat na existují využití umělé inteligence, které mohou ve špatných rukách omezit základní práva,“ uvedl.
Potřebuje podle vás umělá inteligence regulovat?
Musíme nastavit pravidla
Jde například o systémy sociálního kreditu, které používá Čína a které automaticky přidělují nebo odebírají lidem body podle toho, jestli se podle režimu chovají žádoucím nebo nežádoucím způsobem.
Poslanci rozšířili seznam zakázaných systémů i na systémy biometrické identifikace na dálku na veřejně přístupných místech, systémy kategorizace lidí využívající citlivé údaje jako pohlaví, rasa, etnický původ, občanství či náboženství.
A problém by mohl nastat také v systémech, které rozpoznávající emoce. Podle Kolaji jde však o pseudovědeckou myšlenku, protože z výrazu tváře emoce s jistotou vyčíst nelze. „Spolu s kolegy z politické skupiny jsme zařídili, aby byly zakázány v oblastech, jako je školství, zaměstnání nebo vymáhání práva,“ doplňuje Kolaja.
V neposlední řadě se akt bude týkat také takzvaného e-proctoringu. Ten má má kontrolovat, zda studenti při testech nepodvádějí. Jeho využití je však sporné, a to nejen s ohledem na práva žáků. České univerzity jsou k systémům zdrženlivější, naopak ministerstvo jejich využívání podporuje.
Co je to proctoring? Nástroj kontroly online zkoušek může být diskriminační |
„Umělé inteligence bychom se neměli bát, naopak bychom ji měli vnímat jako pozitivní nástroj, který může zlepšit náš život. Určitě ale potřebujeme nastavit pravidla a být ostražití vůči možným rizikům,“ souhlasí místopředsedkyně Evropského parlamentu Dita Chranzová.
Jak doplnila, největší výhody využití AI vidí například v oblasti výzkumu, zdravotnictví, ale i třeba v oblasti boje proti terorismu nebo při vyhledávání unesených dětí.
