Středa 12. května 2021, svátek má Pankrác
  • schránka
  • Přihlásit Můj účet
  • Středa 12. května 2021 Pankrác

Plán EU na regulaci umělé inteligence počítá se zákazy i pokutami

  13:30
Evropská komise zveřejnila plán na regulaci umělé inteligence. Řadu technologií, které považuje za ohrožující lidská práva, přímo zakazuje, na další se chystá uvrhnout přísná omezení. Za nedodržení pravidel bude hrozit pokuta.
ilustrační snímek

ilustrační snímek | foto: Depositphotos

„Evropa dělá první tah a představuje nadčasová pravidla pro důvěryhodnou umělou inteligenci a podporu inovací. Její potenciální přínosy pro naši společnost jsou rozmanité, ale existují i rizika. Proto stanovujeme zákaz omezeného počtu použití umělé inteligence, která jsou v rozporu s hodnotami EU nebo porušují základní práva,“ říká místopředsedkyně Evropské komise Věra Jourová.

Podle plánů komise mají být v EU zakázané technologie například na výpočet takzvaného sociálního skóre, které by sledovaly ekonomické či společenského chování a nastavovaly například různé úrovně přístupu k veřejným službám. Takový systém už využívá například Čína.

Vysoce riziková AI

přísná pravidla pro uvedení na trh

  • kritická infrastruktura (např. v dopravě)
  • systémy vzdělávání (např. hodnocení zkoušek)
  • zaměstnávání, personalistika (např. třídění životopisů)
  • úvěrové hodnocení
  • prosazování práva (např. ověřování spolehlivosti důkazů)
  • řízení migrace (např. ověřování pravosti dokladů)

Zakázané budou technologie zneužívající zranitelnosti dětí, nebo manipulující s lidským chováním s cílem obejít svobodnou vůli uživatelů - zde Komise v prohlášení uvedla jako příklad hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování.

Stejně tak využití systémů umožňujících sledovat lidi pomocí rozpoznávání obličeje by se mělo do budoucna omezit výslovně jen na prevenci teroristických útoků či hledání ztracených dětí. Určitou výjimku by měly získat i případy, kdy bude ohrožena „veřejná bezpečnost“, proti čemuž už ovšem vystoupili někteří lidskoprávní aktivisté.

Další technologie, které Brusel považuje za rizikové, budou muset splnit přísná pravidla. Sem patří třeba využití umělé inteligence (AI) v personalistice nebo prověřování bonity klientů finančních institucí.

Hledáte uplatnění v IT sektoru? Navštivte internetový pracovní portál jobDNES.cz

Bez omezení by bylo možné využívat AI v případech, které z pohledu Komise žádné riziko nepředstavují, například ve videohrách nebo ve spamových filtrech elektronické pošty.

Za porušení pravidel má podle Komise firmám hrozit pokuta až šest procent ročního obratu anebo třicet milionů eur (780 milionů korun) - podle toho, která částka bude vyšší.

Komise také navrhuje, aby nová pravidla pomáhala do života uvádět nově zřízená Evropská rada pro umělou inteligenci. Všechny tyto plány však nejprve musí schválit členské státy a europarlament, což se může táhnout ještě roky.

„Je třeba hledat takové řešení, které umožní, aby AI byla maximálně užitečná pro společnost, a zároveň poskytne záruky, že její použití nebude narušovat ochranu soukromí a osobních údajů,“ uvedl počátkem týdne český europoslanec Jiří Pospíšil (TOP 09).

Odpůrci plošné regulace však unijní přístup kritizují. Podle nich zpozdí vývoj a nasazení některých technologií na evropském trhu a způsobí technologické zaostávání kontinentu za Amerikou a Čínou. - čtěte EU chystá regulaci umělé inteligence. Experti se obávají odlivu mozků

„Další problém je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit. Jde o vnitřní předpisy, kontrolu a především certifikace, takzvané posuzování shody, známé značkou CE. ve složitých případech až roky trvající nákladná procedura, bez které nesmí na trh EU. Doslova se tam píše, že na AI systém se má nalepit značka CE, což jen dokresluje absurditu,“ popisuje Jan Klesla, který řídí projekt Evropského centra excelence v AI vedený pražským ČVUT.

Pro poskytovatele vysoce rizikových systémů AI zavádí regulace povinnost testovat jejich software na kvalitních datových souborech. Například u samořídicích aut jde o soubory fotografií a videosekvencí chodců.

Jenže i v požadavku na kvalitní datové soubory je háček. „Trénování AI modelu pouze na vyvážených datasetech je samo o sobě skvělou myšlenkou. Jsou tu ale i oblasti, pro které takové datasety neexistují. Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let, až někdo postaví vyvážený dataset,“ říká expert na umělou inteligenci Martin Rehák, jehož firma Resistant AI působí v oblasti kyberbezpečnosti.

Komisaři jsou však přesvědčeni, že budoucí vývoj nová legislativa neohrozí. „Naše pravidla, která jsou připravena na budoucí vývoj a vstřícná k inovacím, se použijí tam, kde je to nezbytně nutné: v případech, kdy jde o bezpečnost a základní práva občanů EU,“ míní komisařka pro hospodářskou soutěž Margrethe Vestagerová.

„Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni, zajistit, aby AI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“ dodává její kolega, komisař pro vnitřní trh, Thierry Breton.

Autoři: , ,
  • Nejčtenější

Největší realitka chystá hromadné aukce bytů. Ceny zvýšíme o statisíce, tvrdí

Společnost M&M Reality začíná ve čtvrtek streamovat aukce svých nemovitostí. Největší tuzemská realitní kancelář tím...

Ceny bytů ještě porostou. Za 10 let budou dvojnásobné, říká analytik

Rozstřel Růst cen nemovitostí bude v ČR i nadále pokračovat. Nezastavila jej ani ekonomická krize v souvislosti s pandemií...

Kolik chceš, abych bral? V IT firmě si zaměstnanci vzájemně určují výši mzdy

Argentinská softwarová firma 10Pines razí poměrně unikátní mzdovou politiku. Třikrát ročně se všichni zaměstnanci...

Covidová pomoc se v Česku zneužívá čím dál víc. Podvody končí i na policii

Odhalených podvodů s covidovou pomocí přibývá. Finanční správa podala kvůli neoprávněnému čerpání bonusu už 109...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Nečekali jsme takový zájem, říká autor chytrého zámku na lyže i kočárek

Zámek připnutý na kolo díky pohybovému senzoru upozorní majitele, že se jeho bicykl někdo pokouší ukrást. Tak funguje...

Pochvaly bych výrazně omezil, víc berou než dávají, vysvětluje psycholog

Premium Stále více čelíme nezdravému tlaku, abychom byli úspěšnější a výkonnější. Jak budovat zdravé sebevědomí? Jak správně...

Opakovaný výstup na osmitisícovku může urychlit demenci, říká neurochirurg Beneš

Premium Špičkový neurochirurg Vladimír Beneš, už třetí v řadě slavné neurochirurgické dynastie, o šťourátku v mozku, hezkých...

Pohodlnější to nikdy nebylo. Velký přehled služeb televize přes internet

Premium Otestovali jsme devět služeb televize přes internet. Vybrali jsme ty, které můžete používat s libovolným poskytovatelem...

  • Další z rubriky

Hackeři zaútočili na potrubní síť v USA, přerušili přepravu benzinu a nafty

Americká společnost Colonial Pipeline, která je v USA největším provozovatelem potrubní sítě na přepravu ropných...

Philip Morris má nového ředitele. Bude bojovat za budoucnost bez kouře

Společnost Philip Morris International (PMI) má nového generálního ředitele. Nově firmy bude řídit Jacek Olczak, který...

Brazílie žádá miliardy na záchranu pralesa. Přitom chce uzákonit jeho zabírání

V brazilském parlamentu leží zákon, který by uzákonil přisvojování si veřejných pozemků, čímž by zbavil pralesní...

Kolik chceš, abych bral? V IT firmě si zaměstnanci vzájemně určují výši mzdy

Argentinská softwarová firma 10Pines razí poměrně unikátní mzdovou politiku. Třikrát ročně se všichni zaměstnanci...

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!

Výchova šokem: policie vytáhla čumila z auta, aby si prohlédl mrtvolu

Na německé dálnici A3 v Hesensku v neděli zahynuli při dopravní nehodě dva mladí lidé, muž ve věku 35 let na místě,...

Své důchodové konto si nehlídal. Dostane tak od státu nižší penzi

Kontrolujete si pravidelně své důchodové konto, které vede Česká správa sociálního zabezpečení. Hlídejte si také, zda...

Havlové je po očkování špatně. Nerada jsem se podřídila celku, napsala

Dagmar Havlová (68) se fanouškům na sociálních sítích svěřila s tím, že jí momentálně není dobře. Po první dávce...

Největší realitka chystá hromadné aukce bytů. Ceny zvýšíme o statisíce, tvrdí

Společnost M&M Reality začíná ve čtvrtek streamovat aukce svých nemovitostí. Největší tuzemská realitní kancelář tím...

Udělal chybu, bude pykat, říká moderátorka Křížková o manželově trestu vězení

Modelka a moderátorka Lucie Křížková (36), rozená Váchová, se na Instagramu svěřila s překvapivou novinkou z osobního...

Mohlo by vás zajímat