Premium

Získejte všechny články mimořádně
jen za 49 Kč/3 měsíce

EU chystá regulaci umělé inteligence. Experti se obávají odlivu mozků

  9:52
Umělá inteligence jako dobrý sluha, ale zlý pán. V takovém duchu se nese plánovaná regulace, kterou chce Evropská komise v tento týden představit veřejnosti. Jenže experti unijní přístup kritizují. Plošná regulace podle nich zpozdí vývoj a nasazení některých technologií na evropském trhu.

ilustrační snímek | foto: Profimedia.cz

Do zahraničních médií minulý týden unikl dokument, který má zavést plošnou regulaci umělé inteligence na úrovni EU. Oficiálně by Evropská komise měla představit své záměry tuto středu.

Bojujete ve vaší firmě s odlivem mozků? Najděte si nové zaměstnance rychle a efektivně na internetovém pracovním portálu jobDNES.cz.

Dokument staví regulaci na definici takzvaných vysoce rizikových systémů umělé inteligence (AI). Jde například o umělou inteligenci používanou pro nábor zaměstnanců nebo pro monitorování výkonů pracovníků. Rovněž jsou zmíněné systémy, které v rámci bank vyhodnocují bonitu lidí, nebo takové, které asistují při soudních procesech či zpracovávají žádosti o azyl a víza.

Problémem je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit.

Jan Kleslašéf projektu Evropského centra excelence v AI

Poskytovatelé vysoce rizikových systémů by měli předvídat zneužití svých softwarů a připravit se na něj. Požaduje se po nich podrobná dokumentace a pravidelná kontrola prováděná člověkem. Vysoce rizikové AI systémy by rovněž měly nést CE značku, která by potvrzovala, že software je v souladu s regulací. Podle dokumentu má vzniknout i nová instituce – Evropská rada pro umělou inteligenci, která bude v budoucnu určovat, jaké další systémy AI jsou vysoce rizikové.

Čína jako odstrašující případ

Dokument zakazuje systémy masového dohledu nebo takzvané systémy sociálního kreditu, které shromažďují data o jednotlivcích a následně je hodnotí podle „společenské důvěryhodnosti“. Takový systém už využívá například Čína.

Výjimka

Komise v dokumentu zmiňuje výjimku, která by členským státům umožnila používat technologie masového dohledu, pokud by EU zrovna bojovala se závažnou trestnou činností. Mohlo by dojít k povolení použití technologie pro rozpoznávání obličeje třeba v případě pátrání po teroristech.

Shromažďovaná data mají tamější politické moci sloužit jako podrobné životopisy obyvatel. Každý krok obyvatele, gesto, neformální rozhovor s přáteli, pracovní vztah, ale i známost z dětství, to vše se dá v konečném důsledku zneužít státním aparátem třeba tak, že člověku bude odepřena možnost koupit dům na hypotéku nebo poslat potomka na vysokou školu.

Jak zmiňuje europoslankyně Dita Charanzová (za ANO), umělá inteligence může být v řadě odvětvích průlomovým pomocníkem, rovněž ale budí obavy. „Nikdo si asi nechceme připadat jako v Číně, kde vás na každém kroku sleduje pět kamer s rozpoznáváním identity. Pojem Velký bratr tady dostal úplně nový rozměr, tam se Evropa dostat nesmí,” říká Charanzová.

7. září 2020

„Je třeba hledat takové řešení, které umožní, aby AI byla maximálně užitečná pro společnost, a zároveň poskytne záruky, že její použití nebude narušovat ochranu soukromí a osobních údajů,“ doplňuje europoslanec Jiří Pospíšil (TOP 09).

Lidská práva zajištěna

Snaha Evropské unie zhmotněná ve zmiňované regulaci europoslancům dává smysl. Jenže odborníci upozorňují, že navrhovaná pravidla jsou robustní, přísná a zároveň je jejich popis uvedený v dokumentu příliš vágní a neurčitý. Podle expertů může zavedení regulace přinést řadu negativních dopadů, které Evropu zastaví v čase, zatímco se Spojené státy a Asie budou posouvat mílovými kroky dopředu.

Například Jan Klesla, který řídí projekt Evropského centra excelence v AI vedený pražským ČVUT, zdůrazňuje, že Evropská unie již předpisy, které by potíraly zmiňované problémy, má. Lidská práva zde střeží například Charta základních práv EU nebo Úmluva o ochraně lidských práv a základních svobod.

„Nikdo tak nesmí nikoho diskriminovat podle věku, pohlaví či rasy, ať je to třeba hostinský nebo systém založený na strojovém učení,“ říká Klesla. Případy, kdy umělá inteligence diskriminovala konkrétní skupinu obyvatel, se odehrávají zejména ve Spojených státech či v Číně.

„V Evropě nemáme zatím ani jeden, a to právě proto, že u nás už dávno platí celá řada předpisů, kromě obecné ochrany základních práv i přísná ochrana spotřebitele nebo osobních údajů v GDPR,“ komentuje Klesla.

Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let až někdo postaví vyvážený dataset.

Martin Rehákzakladatel firmy Resistant AI

Odliv mozků

Co tedy může regulace způsobit? „Obrovskou právní nejistotu, odliv mozků a mladých podnikatelů z EU a nejlepší dárek pro Borise Johnsona k brexitu,“ odpovídá na otázku Klesla.

Proti fake news umělou inteligencí. Česká firma vyvinula nový program

„Rizikové je podle Komise třeba prověřování bonity klientů finančních institucí, ty ale podléhají tvrdé regulaci a přísnému dohledu a stejného cíle dosahuje i zákon o spotřebitelském úvěru, mimochodem implementace směrnice EU. Další problém je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit. Jde o vnitřní předpisy, kontrolu a především certifikace, takzvané posuzování shody, známé značkou CE. ve složitých případech až roky trvající nákladná procedura, bez které nesmí na trh EU. Doslova se tam píše, že na AI systém se má nalepit značka CE, což jen dokresluje absurditu,“ popisuje Klesla.

Pokrok si žádá chyby

Pro poskytovatele vysoce rizikových systémů AI zavádí regulace povinnost testovat jejich software na kvalitních datových souborech. Například u samořídicích aut jde o soubory fotografií a videosekvencí chodců. 

„V USA se například řeší, že v těchto databázích, které rozpoznávají chodce, je nižší reprezentace menšin než většinové populace. Systémy pak mohou mít horší výkonnost u příslušníků menšin a tím pádem i vyšší pravděpodobnost, že takové auto příslušníka menšiny srazí,“ vysvětluje expert na umělou inteligenci Martin Rehák, jehož firma Resistant AI působí v oblasti kyberbezpečnosti.

Řidiči Amazonu jsou pod drobnohledem. Na jejich flákání dohlíží kamery

Jenže i v požadavku na kvalitní datové soubory je háček. „Trénování AI modelu pouze na vyvážených datasetech je samo o sobě skvělou myšlenkou. Jsou tu ale i oblasti, pro které takové datasety neexistují. Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let, až někdo postaví vyvážený dataset,“ uvádí Rehák.

„Navíc nasazení samořídicích aut na trh o tři roky dříve může celkově zachránit více životů i u dané menšiny, protože samořídicí auto bude zkrátka bezpečnější než auto řízené člověkem,“ dodává Rehák.

Problém je v tom, že regulujeme něco, o čem toho ještě moc nevíme.

Radim Polčákprorektor Masarykovy univerzity

Ačkoli má plánovaná regulace dobré úmysly, může podle Reháka zpomalit nasazení technologií v Evropě a snížit konkurenceschopnost zdejších podnikatelů a startupů. 

„Prosazením podmínky, že systémy musí být perfektní, zpomalíte jejich vývoj a poškodíte tím přístup evropského průmyslu a zákazníků k novým technologiím, což poškodí jejich konkurenceschopnost. Mezinárodní konkurence, které postačí prokázat jen to, že jejich systémy jsou lepší než současný stav, může mezitím Evropě utéct,“ míní Rehák.

Reálné problémy versus hrozba terminátora

Prorektor Masarykovy univerzity a expert na informační technologie a právo Radim Polčák zdůrazňuje, že regulace na evropské úrovni potřeba je. I on má však pochybnosti o způsobu, jakým k problematice Evropská komise přistupuje. „Problém je v tom, že regulujeme něco, o čem toho ještě moc nevíme. Regulace tak může dost zavřít trh. Přitom potřebujeme, aby zde fungovaly startupy, aby se tu vyvíjely technologie,“ říká Polčák.

EU vadí technologická závislost. Chce vyrábět špičkové polovodiče ve velkém

„Použití autonomních systémů by se mělo regulovat v rámci jednotlivých sektorů, například ve zdravotnictví, v justici či ve veřejné správě. Plošná regulace je podle mě kontraproduktivní,“ dodává akademik.

Otázkou zůstává, jak tedy k zákonům o umělé inteligenci přistupovat. Jan Klesla z Evropského centra excelence v AI vidí cestu v dobrovolných kodexech, které by do svých struktur zaváděly (a vlastně už zavádí) firmy samotné. „Správná cesta by byla kromě samoregulace také úprava jednotlivých předpisů, které už máme, například vyřešit otázku, kdo odpovídá za to, když vás nabourá tesla na autopilota, a z jakého povinného ručení se to zaplatí. Jde o reálné dnešní problémy, ne teoretické ohrožování svobod, které nás v EU ani nenapadne,“ míní Klesla.

23. srpna 2018

  • Nejčtenější

Párkům odzvonilo. Podnikatel lije do rohlíků svíčkovou a dobývá benzinky

22. května 2024

Na pracovních cestách se podnikatel v gastronomii Lukáš Nádvorník přejedl párků v rohlíku. Napadlo...

Zelení navrhují soupis majetku a daň z bohatství. Vtip, reagují ekonomové

23. května 2024  14:25

Strana zelených přišla před volbami do Evropského parlamentu s návrhem, jak alespoň částečně...

{NADPIS}

{LABEL} {POPISEK}

Smrt v oblacích. Let do Singapuru má po silných turbulencích jednu oběť

21. května 2024  14:37,  aktualizováno  15:23

Třiasedmdesátiletý Brit zemřel a dalších třicet lidí se zranilo při silných turbulencích, které...

Solidarita se nekoná. Německo od léta zvýší přirážku za tranzit plynu

24. května 2024

Kontroverzní přirážka za tranzit plynu z Německa se od července zvýší. Poplatek prodražující...

{NADPIS}

{LABEL} {POPISEK}

Ruské soudy kryjí Gazprom. UniCredit přijde o majetek, Slováci o arbitráž

17. května 2024  18:04,  aktualizováno  21:40

Soud v Petrohradě v pátek nařídil zabavit majetek italské bankovní skupiny UniCredit za 463 milionů...

Levné čínské zboží zaplavuje Unii. Němci tlačí na revizi celní politiky

25. května 2024

Německo usiluje o zrušení daňové úlevy, která zejména čínským e-shopům umožňuje prodávat své...

Polsko zvažuje zkrácení pracovního týdne na 35 hodin, nebo rovnou volné pátky

25. května 2024  8:45

Polské ministerstvo práce a sociálních věcí analyzuje dva návrhy na zkrácení pracovního týdne,...

Člověk při nákupu nedokáže vnímat více než sedm věcí, vysvětluje expert

25. května 2024

Premium Žádný obchod není postavený nahodile, každé zboží v regálech má své místo. Aby obchodník efektivně...

Kde se platí a nevyplatí turistické poplatky. Ne všude totiž pomáhají

25. května 2024

K čemu jsou dobrá zdanění cestovního ruchu, městské turistické daně, poplatky za ubytování v...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Nejhorší noční můra, řekla žena, která v botě syna objevila cizí AirTag

Mého syna někdo sleduje. S takovým pocitem několik týdnů žila žena z Floridy poté, co na svůj iPhone začala dostávat...

Párkům odzvonilo. Podnikatel lije do rohlíků svíčkovou a dobývá benzinky

Na pracovních cestách se podnikatel v gastronomii Lukáš Nádvorník přejedl párků v rohlíku. Napadlo ho, že by do pečiva...

Herec Lukáš Vaculík se oženil, dívčí idol 80. let si vzal ředitelku z Primy

Lukáš Vaculík (61) se tajně oženil. Vzal si výrobní ředitelku a producentku FTV Prima Luciu Kršákovou (46). Herec a...

Klavírista Petr Malásek si zlomil obě ruce. Mohlo to dopadnout hůř, říká

Klavírista Petr Malásek (59) spadl z kola a zlomil si obě ruce. V pořadu 7 pádů Honzy Dědka popsal nehodu i jaká je...

Milan Hein odhalil neshody mezi Simonou Postlerovou a její matkou

Smrt herečky Simony Postlerové (†59) byla ranou pro celou její rodinu. Na parte ale chybělo jméno hereččiny matky Jany...