Plán EU na regulaci umělé inteligence počítá se zákazy i pokutami

  13:30
Evropská komise zveřejnila plán na regulaci umělé inteligence. Řadu technologií, které považuje za ohrožující lidská práva, přímo zakazuje, na další se chystá uvrhnout přísná omezení. Za nedodržení pravidel bude hrozit pokuta.
ilustrační snímek

ilustrační snímek | foto: Depositphotos

„Evropa dělá první tah a představuje nadčasová pravidla pro důvěryhodnou umělou inteligenci a podporu inovací. Její potenciální přínosy pro naši společnost jsou rozmanité, ale existují i rizika. Proto stanovujeme zákaz omezeného počtu použití umělé inteligence, která jsou v rozporu s hodnotami EU nebo porušují základní práva,“ říká místopředsedkyně Evropské komise Věra Jourová.

Podle plánů komise mají být v EU zakázané technologie například na výpočet takzvaného sociálního skóre, které by sledovaly ekonomické či společenského chování a nastavovaly například různé úrovně přístupu k veřejným službám. Takový systém už využívá například Čína.

Vysoce riziková AI

přísná pravidla pro uvedení na trh

  • kritická infrastruktura (např. v dopravě)
  • systémy vzdělávání (např. hodnocení zkoušek)
  • zaměstnávání, personalistika (např. třídění životopisů)
  • úvěrové hodnocení
  • prosazování práva (např. ověřování spolehlivosti důkazů)
  • řízení migrace (např. ověřování pravosti dokladů)

Zakázané budou technologie zneužívající zranitelnosti dětí, nebo manipulující s lidským chováním s cílem obejít svobodnou vůli uživatelů - zde Komise v prohlášení uvedla jako příklad hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování.

Stejně tak využití systémů umožňujících sledovat lidi pomocí rozpoznávání obličeje by se mělo do budoucna omezit výslovně jen na prevenci teroristických útoků či hledání ztracených dětí. Určitou výjimku by měly získat i případy, kdy bude ohrožena „veřejná bezpečnost“, proti čemuž už ovšem vystoupili někteří lidskoprávní aktivisté.

Další technologie, které Brusel považuje za rizikové, budou muset splnit přísná pravidla. Sem patří třeba využití umělé inteligence (AI) v personalistice nebo prověřování bonity klientů finančních institucí.

Hledáte uplatnění v IT sektoru? Navštivte internetový pracovní portál jobDNES.cz

Bez omezení by bylo možné využívat AI v případech, které z pohledu Komise žádné riziko nepředstavují, například ve videohrách nebo ve spamových filtrech elektronické pošty.

Za porušení pravidel má podle Komise firmám hrozit pokuta až šest procent ročního obratu anebo třicet milionů eur (780 milionů korun) - podle toho, která částka bude vyšší.

Komise také navrhuje, aby nová pravidla pomáhala do života uvádět nově zřízená Evropská rada pro umělou inteligenci. Všechny tyto plány však nejprve musí schválit členské státy a europarlament, což se může táhnout ještě roky.

„Je třeba hledat takové řešení, které umožní, aby AI byla maximálně užitečná pro společnost, a zároveň poskytne záruky, že její použití nebude narušovat ochranu soukromí a osobních údajů,“ uvedl počátkem týdne český europoslanec Jiří Pospíšil (TOP 09).

Odpůrci plošné regulace však unijní přístup kritizují. Podle nich zpozdí vývoj a nasazení některých technologií na evropském trhu a způsobí technologické zaostávání kontinentu za Amerikou a Čínou. - čtěte EU chystá regulaci umělé inteligence. Experti se obávají odlivu mozků

„Další problém je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit. Jde o vnitřní předpisy, kontrolu a především certifikace, takzvané posuzování shody, známé značkou CE. ve složitých případech až roky trvající nákladná procedura, bez které nesmí na trh EU. Doslova se tam píše, že na AI systém se má nalepit značka CE, což jen dokresluje absurditu,“ popisuje Jan Klesla, který řídí projekt Evropského centra excelence v AI vedený pražským ČVUT.

Pro poskytovatele vysoce rizikových systémů AI zavádí regulace povinnost testovat jejich software na kvalitních datových souborech. Například u samořídicích aut jde o soubory fotografií a videosekvencí chodců.

Jenže i v požadavku na kvalitní datové soubory je háček. „Trénování AI modelu pouze na vyvážených datasetech je samo o sobě skvělou myšlenkou. Jsou tu ale i oblasti, pro které takové datasety neexistují. Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let, až někdo postaví vyvážený dataset,“ říká expert na umělou inteligenci Martin Rehák, jehož firma Resistant AI působí v oblasti kyberbezpečnosti.

Komisaři jsou však přesvědčeni, že budoucí vývoj nová legislativa neohrozí. „Naše pravidla, která jsou připravena na budoucí vývoj a vstřícná k inovacím, se použijí tam, kde je to nezbytně nutné: v případech, kdy jde o bezpečnost a základní práva občanů EU,“ míní komisařka pro hospodářskou soutěž Margrethe Vestagerová.

„Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni, zajistit, aby AI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“ dodává její kolega, komisař pro vnitřní trh, Thierry Breton.

Autoři: , ,
  • Nejčtenější

Výrazně zpomalte rychlovlaky, vzkazují obce k nové trati. A koleje chtějí skrýt

12. března 2024

Postavte rychlotrať v tubusu, a nebo na ní výrazně snižte rychlost. Tak by se daly zjednodušeně...

Konec nadvlády programátorů. Pozic ubývá, na jednu se hlásí stále víc lidí

16. března 2024

Premium Ochota firem splnit uchazečům skoro jakýkoli požadavek a velmi nízká konkurence. Tak by se ještě...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Pořád Big Mac, ale už spíše Big Tech. Co ukázal výpadek u fastfoodového obra

16. března 2024

Když McDonald’s ve 40. letech minulého století poprvé otvíral, zákazníci vybírali menu z papírových...

Soláry, kam se podíváš. Elektrárnám dochází místo, musí být kreativní

17. března 2024  10:52

Elektřina ze slunce bude podle Mezinárodní agentury pro energii (IEA) v příštích několika...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Kofola sáhla do svého loga. Nově v něm bude hranaté srdce

13. března 2024  13:48

Nápojářská skupina Kofola po devíti letech sáhla k úpravě loga. Ikonický lísteček lékořice na svých...

VIDEO: Střílej po mně! Kameraman natočil téměř celý útok v centru Prahy

Premium Ve čtvrtek zemřelo rukou střelce Davida K. 14 obětí, 25 lidí je zraněných, z toho deset lidí těžce. Jedním z prvních na...

Máma ji dala do pasťáku, je na pervitinu a šlape. Elišku čekají Vánoce na ulici

Premium Noční Smíchov. Na zádech růžový batoh, v ruce svítící balónek, vánoční LED svíčky na baterky kolem krku. Vypadá na...

Test světlých lahvových ležáků: I dobré pivo zestárne v obchodě mnohem rychleji

Premium Ležáky z hypermarketů zklamaly. Jestli si chcete pochutnat, běžte do hospody. Sudová piva totiž dopadla před časem...

Cena elektřiny bude příští rok nižší než letos, říká analytik Matoušek

19. března 2024

Premium Dobrá zpráva: v příštím roce bude celková cena elektřiny nižší než v tomto roce. Ta méně dobrá zní,...

Irové svolili k nemyslitelnému. Na trh začali dodávat whiskey s příchutěmi

19. března 2024

Ochucené whisky vyrábějí palírny ve Spojených státech i Kanadě již několik desítek let a nejsou tak...

Musk přiznal užívání ketaminu. Je v zájmu investorů, abych pokračoval, tvrdí

18. března 2024  21:48

Miliardář Elon Musk v rozhovoru s bývalým moderátorem CNN Donem Lemonem přiznal, že užívá ketamin....

Přestaňte snít o konci ropy a plynu, prohlásil šéf saúdského těžebního obra

18. března 2024  20:29

Transformace energetického průmyslu selhává a svět by měl přestat snít o postupném odchodu od ropy...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Nutný výchovný pohlavek, souhlasí Bouček i Havlová s přerušením projevu na Lvu

Moderátor Libor Bouček ostře zareagoval na kauzu ohledně délky proslovu režisérky Darji Kaščejevové na předávání cen...

Švábi, vši a nevychované děti. Výměna manželek skončila už po pěti dnech

Nová Výměna manželek trvala jen pět dní, přesto přinesla spoustu vyhrocených situací. Martina ze Znojma se pokoušela...

Vyzkoušeli jsme podvod z Aliexpressu. Může vás přijít draho, i po letech

Nakoupili jsme na Aliexpressu a pěkně se spálili. Jednu USB paměť, dvě externí SSD a jeden externí HDD. Ve třech...

Chtěli, abych se vyspala s Baldwinem kvůli jeho výkonu, říká Sharon Stone

Herečka Sharon Stone (66) jmenovala producenta, který jí řekl, aby se vyspala s hercem Williamem Baldwinem (61). Měla...

Konec nadvlády programátorů. Pozic ubývá, na jednu se hlásí stále víc lidí

Premium Ochota firem splnit uchazečům skoro jakýkoli požadavek a velmi nízká konkurence. Tak by se ještě nedávno dala definovat...