Sobota 8. května 2021, Den vítězství
  • schránka
  • Přihlásit Můj účet
  • Sobota 8. května 2021 Den vítězství

Plán EU na regulaci umělé inteligence počítá se zákazy i pokutami

  13:30
Evropská komise zveřejnila plán na regulaci umělé inteligence. Řadu technologií, které považuje za ohrožující lidská práva, přímo zakazuje, na další se chystá uvrhnout přísná omezení. Za nedodržení pravidel bude hrozit pokuta.
ilustrační snímek

ilustrační snímek | foto: Depositphotos

„Evropa dělá první tah a představuje nadčasová pravidla pro důvěryhodnou umělou inteligenci a podporu inovací. Její potenciální přínosy pro naši společnost jsou rozmanité, ale existují i rizika. Proto stanovujeme zákaz omezeného počtu použití umělé inteligence, která jsou v rozporu s hodnotami EU nebo porušují základní práva,“ říká místopředsedkyně Evropské komise Věra Jourová.

Podle plánů komise mají být v EU zakázané technologie například na výpočet takzvaného sociálního skóre, které by sledovaly ekonomické či společenského chování a nastavovaly například různé úrovně přístupu k veřejným službám. Takový systém už využívá například Čína.

Vysoce riziková AI

přísná pravidla pro uvedení na trh

  • kritická infrastruktura (např. v dopravě)
  • systémy vzdělávání (např. hodnocení zkoušek)
  • zaměstnávání, personalistika (např. třídění životopisů)
  • úvěrové hodnocení
  • prosazování práva (např. ověřování spolehlivosti důkazů)
  • řízení migrace (např. ověřování pravosti dokladů)

Zakázané budou technologie zneužívající zranitelnosti dětí, nebo manipulující s lidským chováním s cílem obejít svobodnou vůli uživatelů - zde Komise v prohlášení uvedla jako příklad hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování.

Stejně tak využití systémů umožňujících sledovat lidi pomocí rozpoznávání obličeje by se mělo do budoucna omezit výslovně jen na prevenci teroristických útoků či hledání ztracených dětí. Určitou výjimku by měly získat i případy, kdy bude ohrožena „veřejná bezpečnost“, proti čemuž už ovšem vystoupili někteří lidskoprávní aktivisté.

Další technologie, které Brusel považuje za rizikové, budou muset splnit přísná pravidla. Sem patří třeba využití umělé inteligence (AI) v personalistice nebo prověřování bonity klientů finančních institucí.

Hledáte uplatnění v IT sektoru? Navštivte internetový pracovní portál jobDNES.cz

Bez omezení by bylo možné využívat AI v případech, které z pohledu Komise žádné riziko nepředstavují, například ve videohrách nebo ve spamových filtrech elektronické pošty.

Za porušení pravidel má podle Komise firmám hrozit pokuta až šest procent ročního obratu anebo třicet milionů eur (780 milionů korun) - podle toho, která částka bude vyšší.

Komise také navrhuje, aby nová pravidla pomáhala do života uvádět nově zřízená Evropská rada pro umělou inteligenci. Všechny tyto plány však nejprve musí schválit členské státy a europarlament, což se může táhnout ještě roky.

„Je třeba hledat takové řešení, které umožní, aby AI byla maximálně užitečná pro společnost, a zároveň poskytne záruky, že její použití nebude narušovat ochranu soukromí a osobních údajů,“ uvedl počátkem týdne český europoslanec Jiří Pospíšil (TOP 09).

Odpůrci plošné regulace však unijní přístup kritizují. Podle nich zpozdí vývoj a nasazení některých technologií na evropském trhu a způsobí technologické zaostávání kontinentu za Amerikou a Čínou. - čtěte EU chystá regulaci umělé inteligence. Experti se obávají odlivu mozků

„Další problém je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit. Jde o vnitřní předpisy, kontrolu a především certifikace, takzvané posuzování shody, známé značkou CE. ve složitých případech až roky trvající nákladná procedura, bez které nesmí na trh EU. Doslova se tam píše, že na AI systém se má nalepit značka CE, což jen dokresluje absurditu,“ popisuje Jan Klesla, který řídí projekt Evropského centra excelence v AI vedený pražským ČVUT.

Pro poskytovatele vysoce rizikových systémů AI zavádí regulace povinnost testovat jejich software na kvalitních datových souborech. Například u samořídicích aut jde o soubory fotografií a videosekvencí chodců.

Jenže i v požadavku na kvalitní datové soubory je háček. „Trénování AI modelu pouze na vyvážených datasetech je samo o sobě skvělou myšlenkou. Jsou tu ale i oblasti, pro které takové datasety neexistují. Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let, až někdo postaví vyvážený dataset,“ říká expert na umělou inteligenci Martin Rehák, jehož firma Resistant AI působí v oblasti kyberbezpečnosti.

Komisaři jsou však přesvědčeni, že budoucí vývoj nová legislativa neohrozí. „Naše pravidla, která jsou připravena na budoucí vývoj a vstřícná k inovacím, se použijí tam, kde je to nezbytně nutné: v případech, kdy jde o bezpečnost a základní práva občanů EU,“ míní komisařka pro hospodářskou soutěž Margrethe Vestagerová.

„Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni, zajistit, aby AI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“ dodává její kolega, komisař pro vnitřní trh, Thierry Breton.

Autoři: , ,
  • Nejčtenější

Největší realitka chystá hromadné aukce bytů. Ceny zvýšíme o statisíce, tvrdí

Společnost M&M Reality začíná ve čtvrtek streamovat aukce svých nemovitostí. Největší tuzemská realitní kancelář tím...

Ceny bytů ještě porostou. Za 10 let budou dvojnásobné, říká analytik

Rozstřel Růst cen nemovitostí bude v ČR i nadále pokračovat. Nezastavila jej ani ekonomická krize v souvislosti s pandemií...

Byty jsou nadhodnocené téměř o pětinu, tvrdí studie. Může přijít zlevnění

Z dlouhodobého hlediska jsou byty v Česku v průměru nadhodnocené o zhruba 17 procent. Ve vybraných lokalitách s vysokým...

Covidová pomoc se v Česku zneužívá čím dál víc. Podvody končí i na policii

Odhalených podvodů s covidovou pomocí přibývá. Finanční správa podala kvůli neoprávněnému čerpání bonusu už 109...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Kolik chceš, abych bral? V IT firmě si zaměstnanci vzájemně určují výši mzdy

Argentinská softwarová firma 10Pines razí poměrně unikátní mzdovou politiku. Třikrát ročně se všichni zaměstnanci...

Pochvaly bych výrazně omezil, víc berou než dávají, vysvětluje psycholog

Premium Stále více čelíme nezdravému tlaku, abychom byli úspěšnější a výkonnější. Jak budovat zdravé sebevědomí? Jak správně...

Opakovaný výstup na osmitisícovku může urychlit demenci, říká neurochirurg Beneš

Premium Špičkový neurochirurg Vladimír Beneš, už třetí v řadě slavné neurochirurgické dynastie, o šťourátku v mozku, hezkých...

Pohodlnější to nikdy nebylo. Velký přehled služeb televize přes internet

Premium Otestovali jsme devět služeb televize přes internet. Vybrali jsme ty, které můžete používat s libovolným poskytovatelem...

  • Další z rubriky

Commerzbank se dohodla se zaměstnanci na zrušení 10 000 pracovních míst

Druhá největší německá banka Commerzbank se dnes dohodla se zástupci zaměstnanců ohledně zrušení 10.000 pracovních...

Pandora přestane používat přírodní diamanty. Důvodem je i neetická těžba

Největší výrobce šperků na světě, dánská společnost Pandora, přestane používat přírodní diamanty. Ve svém dnešním...

Philip Morris má nového ředitele. Bude bojovat za budoucnost bez kouře

Společnost Philip Morris International (PMI) má nového generálního ředitele. Nově firmy bude řídit Jacek Olczak, který...

Nejdražší rozvod v historii? U Gatesových se mohou dělit téměř tři biliony

Rozvod Billa Gatese s chotí Melindou může provázet porcování jmění v hodnotě téměř 130 miliard amerických dolarů (2,8...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Výchova šokem: policie vytáhla čumila z auta, aby si prohlédl mrtvolu

Na německé dálnici A3 v Hesensku v neděli zahynuli při dopravní nehodě dva mladí lidé, muž ve věku 35 let na místě,...

Máte jeden z těchto mobilů? Brzy si s ním na mobilním internetu neškrtnete

Letošek je v Česku ve znamení vypínání sítí postavených na zastaralé 3G technologii. Jako poslední ji koncem listopadu...

Kristelová žaluje Novotného. Za zničenou kariéru chce půl milionu

Soud začal projednávat žalobu Kateřiny Kristelové na Pavla Novotného. Moderátorka tvrdí, že jí někdejší bulvární...

Nová Škoda Fabia odhalena, ceny startují na 330 tisících

Škoda odhalila v online světové premiéře čtvrtou generaci modelu Fabia. Automobilka také zveřejnila základní cenu...

KOMENTÁŘ: Konec legrace, teď začne pořádné zdražování

Postupné zpomalování růstu cen, které v Česku probíhalo od loňského července, je u konce. V březnu byla inflace na...