Středa 1. prosince 2021, svátek má Iva
  • schránka
  • Přihlásit Můj účet
  • Středa 1. prosince 2021 Iva

Vzpoura robotů nehrozí, zatím. Hrozbu ale nesmíme podcenit, říká expert

  9:26
Vývoj umělé inteligence je nezadržitelný. Svět už začíná uvažovat o tom, jak pro její využívání a také zneužívání vymezit právní rámce. Ačkoliv "vzpoura robotů" zůstává v oblasti sci-fi, pro hrozbu budoucnosti by měla existovat pomyslná záchranná brzda, tvrdí v rozhovoru Luděk Jiráček z Asociace pro mezinárodní otázky.

Umělá inteligence - volná ilustrace | foto: en.ncognitivescience.com

Když to trochu nadnesu, vzpoura robotů nám sice zatím nehrozí, ale hledání právních rámců pro jisté svázání AI (umělá inteligence) je třeba právě i kvůli tomu, aby k něčemu takovému nedošlo?
Právní rámec v oblasti bezpečnostní politiky má v současné době dvě hlavní roviny. Přední vědci a experti v prvé řadě upozorňují na možnost zneužití AI například ze strany teroristických organizací či diktátorů vůči civilnímu obyvatelstvu, a to již v krátkodobém až střednědobém horizontu. Tomu se zcela jistě nevyhneme.

Z dlouhodobého hlediska přichází na stůl zmíněná hrozba v podobě možné vzpoury robotů, kdy jednotlivé systémy budou schopny fungovat nejen autonomně bez závislosti na lidském faktoru, ale zároveň budou schopny samy sebe vylepšovat (tzv. technologická singularita). Ano, v současné době je to absolutní sci-fi a před lidstvem stojí mnoho dalších hrozeb, které mohou být v krátkodobém až střednědobém horizontu devastující. Na druhou stranu je nutné přemýšlet o určité záchranné brzdě a tuto hrozbu nepodceňovat, jelikož vývoji AI se již nevyhneme.

Automatizace je doslova na každém kroku i v běžných mobilních telefonech za nás přemýšlí procesor. Napadá mě, že podle takzvaného Moorova zákona by měly počítače dosáhnout výkonu srovnatelného s lidským mozkem v roce 2029. Co pak?
To je velice zajímavá otázka, na kterou v současné době asi nedokáže nikdo přesně odpovědět. Není ani zcela jisté, zdali k tomu dojde v roce 2029. V prvé řadě je však nutné si uvědomit, že naše závislost na moderních technologiích je čím dál tím znatelnější, což vede zároveň k tzv. intelektuálnímu zlenivění.

ANALÝZA: Umělá inteligence a tvorba legislativního rámce

Tato závislost negativně ovlivňuje nejen naše rozhodování a chování při krizových situacích, ale de facto omezuje lidské dovednosti. V praxi však bude záležet zejména na nás, jestli budeme využívat nové technologie ve prospěch lidstva a k záchranám životů či nikoliv. Pokud budou jednotlivé systémy zcela autonomní a dosáhnou úrovně, která bude pro lidstvo nebezpečná, bude zásadní zajistit možnost daný systém či robota deaktivovat.

A je obecně vůbec nutné svazovat právními mantinely „něco“, co člověk vytvořil a „jen pro něj pracuje“ nebo se zaměřit na lidi, kteří zařízení či systémy s umělou inteligencí používají a budou používat a případně i zneužívat?
Využití AI skrývá obrovský potenciál, ale i značná bezpečnostní rizika. Na zavedení legislativních opatření proti zneužití AI, zejména v obranném průmyslu, se proto shoduje mnoho vědců. Bohužel regulace v této oblasti je nejen komplikovaná, ale v praxi zejména těžko realizovatelná, a to jak během vývoje, tak i ex-post.

Mezi hlavní důvody patří problematika spjatá s otázkou, jakým způsobem by měl být daný problém regulován. Pokud bychom navíc chtěli zajistit právní mantinely na globální úrovni, což je v této oblasti nezbytné, budeme čelit neochotě některých zemí světa se na určité tvorbě podílet. Mimo to je velmi komplikované zajistit jednotné řešení sporů, když se v praxi právní zvyklosti v jednotlivých zemích značně odlišují.

Existují už nějaké jasné příklady zneužití či pokusů zneužití umělé inteligence v obranném průmyslu?
Rozvoj AI v obranném průmyslu se v současné době nenachází na úrovni, kdy by systémy fungovaly zcela autonomně. Vždy je nutné učinit rozhodnutí k provedení daného úkonu a poté stisknout pomyslné červené tlačítko. Systémy jsou spíše tedy částečně autonomní. Pokud však dojde k masové produkci takovýchto systémů, můžeme očekávat, že dřív nebo později se dostanou na černý trh a tedy i zároveň do rukou zmíněných teroristických organizací.

Stále častěji diskutovaným fenoménem jsou plně automatizované zbraňové systémy. Už jen současné bezpilotní prostředky jsou schopny prakticky autonomně fungovat nad danou oblastí. Je vůbec možné nějak právně jejich použití a tedy i případné zneužití definovat?
Problém definic se nachází u veškerých hrozeb, které ovlivňují naše životy. Pokud se například zúčastníte setkání mezinárodní konference, každý expert či státník vám sdělí odlišnou definici hrozby na dané téma. Co se týče umělé inteligence, není tomu jinak. Nejčastěji využívané definice jsou navíc příliš obecné, a to i přes to, jak je tato problematika rozsáhlá a komplikovaná. I kdybychom se však shodli na jednotné definici a nastavili legislativní rámec pro řešení problémů spojených s AI, zneužití nezabráníme.

Zdá se, že vlastně globálně nejsou nastavena ani etická pravidla a nemyslím jen v oblasti zbraňových systémů?
Je to přesně tak a bohužel nemůžeme ani očekávat, že k nastavení určitých pravidel v nejbližší budoucnosti dojde. Uvědomme si, že již v dnešní době dochází k vývoji a užívání (polo)autonomních systémů. Každý subjekt v soukromém sektoru či aktér v mezinárodních vztazích se bude vždy snažit využít konkurenční výhody a posílit tak svou pozici. Hlavním impulsem pro tvorbu legislativního rámce bude až hmatatelná hrozba. V současné době tedy není ani na místě si pokládat otázku, zda bude vůbec možné regulovat AI, ale spíše, kdo bude jako první nové technologie ovládat a tedy i využívat, respektive zneužívat.

Autor: natoaktual.cz

Navržená vláda Petra Fialy

Předseda vlády: Petr Fiala, ministr vnitra: Vít Rakušan, ministr pro místní rozvoj a digitalizaci: Ivan Bartoš, ministr zemědělství: Zdeněk Nekula, ministr financí: Zbyněk Stanjura, ministr zdravotnictví: Vlastimil Válek, ministr školství: Petr Gazdík, ministr práce a sociálních věcí: Marian Jurečka, ministryně obrany: Jana Černochová, ministr spravedlnosti: Pavel Blažek, ministr průmyslu a obchodu: Jozef Síkela, ministr dopravy: Martin Kupka, ministr zahraničí: Jan Lipavský, ministryně životního prostředí: Anna Hubáčková, ministr kultury: Martin Baxa, ministr pro evropské záležitosti: Mikuláš Bek, ministr pro legislativu: Michal Šalomoun, ministryně pro vědu a výzkum: Helena Langšádlová.

  • Nejčtenější

Znovu je tu nouzový stav. Babiš chce povinné očkování lidí nad 50 let

Od půlnoci ze čtvrtka na pátek začal v Česku platit nouzový stav. Vláda ho vyhlásila na 30 dnů na návrh ministra...

Zeman je v ÚVN s covidem. Zavoral: Dostane protilátky, nákaza je z Lán

Prezident Miloš Zeman se vrátil se do Ústřední vojenské nemocnice (ÚVN). Sanita s hlavou státu dorazila před 19:30....

Ze Zemana si utahují dál. I z Schillerové v latexu. Flégr na ptáka odpověděl

Jmenování předsedy ODS Petra Fialy novým premiérem, při kterém byl nakažený prezident Miloš Zeman izolován ve skleněné...

Očkovat se? Přes vaše mrtvoly. Na Letné tisíce lidí protestovaly proti opatřením

Asi tři tisíce lidí se sešly v neděli odpoledne v Praze na Letné, aby protestovaly proti vládním covidovým opatřením....

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Příští vláda: Nutná bude třetí dávka po 6 měsících, jinak lidi čeká PCR

Budoucí vláda představila opatření, kterými chce bojovat s covidem. Očkování má mít platnost šest měsíců, poté by měli...

ANALÝZA: Případ Kenosha. Média si napsala vlastní verzi

Premium Půlka Ameriky si udělala z Kylea Rittenhouse, jenž zastřelil dva lidi, vzorovou karikaturu bílého rasisty s puškou, a...

Pět nejčastějších chyb, které Češi dělají v penzijním spoření

Premium Ve starém „penzijku“ si na důchod spoří více než tři miliony Čechů a v nových fondech už přes 1,3 milionu lidí. Stát...

Strach se do lidí pouští jako jed. Horší než covid je hysterie, říká herec Dušek

Premium Je hercem, režisérem, scenáristou, moderátorem. Renesančního ducha zřejmě Jaroslav Dušek zdědil po svém rodu s modrou...

  • Další z rubriky

Hybridní válčení jako z učebnice, říká o běloruských akcích analytik

Svážením migrantů na hranice s EU chce Lukašenkův režim získat peníze pro udržení se u moci v Bělorusku. „Je mu jedno,...

Demokracie je na ústupu, musíme prokázat její sílu, vzkázal šéf NATO

„Aby se západní společnost udržela v bezpečí, musí v dnešním nepředvídatelném světě pokračovat v posilování a...

Jen umělá inteligence z naší armády špičkovou neudělá, říká generál Šedivý

Největší chybou by bylo zastavit proces modernizace armády a začít ho znova reorganizovat, říká v rozhovoru pro...

Stojíme za Ukrajinou, varovalo NATO Rusy. Ti koncentrují síly u hranic

Severoatlantická aliance bedlivě sleduje situaci u ukrajinských hranic, kde Rusko soustředilo podle odhadů až 90 tisíc...

SOUTĚŽ: Vyhrajte rodinné vstupné do zábavního parku BRuNO family park
SOUTĚŽ: Vyhrajte rodinné vstupné do zábavního parku BRuNO family park

Za sychravého počasí se toho s dětmi dá dělat stále méně a méně… Co takhle vyrazit do Brna do BRuNA? Vyhrajte s námi rodinné vstupné a užijte si...

Neočkovaný herec Etzler je na kyslíku s oboustranným zápalem plic

Miroslav Etzler skončil s covidovou atakou a oboustranným zápalem plic v nemocnici. Své příznivce na sociálních sítích...

Světem se kvůli mutaci valí lavina výprodejů. Padají akcie, ropa i bitcoin

Kvůli nové mutaci koronaviru, která byla detekována v Jihoafrické republice, klesly v pátek asijské akcie nejvíce za...

Michal po mně skočil, popsala start intimního života zrzka z experimentu

Z šesti dvojic televizní Svatby na první pohled čeká rozhodnutí už jen tři páry. Jarda s Romanou spolu zůstali, vztah...

Zákeřná rakovina endometria. Jaké jsou varovné příznaky?

O rakovině děložního čípku se hovoří často, už proto, že je jí možné předejít očkováním. Ženské orgány však může...

Žena u porodu dítěte kamarádky zjistila, že ho má s jejím manželem

Osmadvacetiletá Hailey Custerová z Arizony zažila nepříjemný šok, když pomáhala přivést na svět dítě nejlepší...