Neděle 9. května 2021, svátek má Ctibor
  • schránka
  • Přihlásit Můj účet
  • Neděle 9. května 2021 Ctibor

Vzpoura robotů nehrozí, zatím. Hrozbu ale nesmíme podcenit, říká expert

  9:26
Vývoj umělé inteligence je nezadržitelný. Svět už začíná uvažovat o tom, jak pro její využívání a také zneužívání vymezit právní rámce. Ačkoliv "vzpoura robotů" zůstává v oblasti sci-fi, pro hrozbu budoucnosti by měla existovat pomyslná záchranná brzda, tvrdí v rozhovoru Luděk Jiráček z Asociace pro mezinárodní otázky.

Umělá inteligence - volná ilustrace | foto: en.ncognitivescience.com

Když to trochu nadnesu, vzpoura robotů nám sice zatím nehrozí, ale hledání právních rámců pro jisté svázání AI (umělá inteligence) je třeba právě i kvůli tomu, aby k něčemu takovému nedošlo?
Právní rámec v oblasti bezpečnostní politiky má v současné době dvě hlavní roviny. Přední vědci a experti v prvé řadě upozorňují na možnost zneužití AI například ze strany teroristických organizací či diktátorů vůči civilnímu obyvatelstvu, a to již v krátkodobém až střednědobém horizontu. Tomu se zcela jistě nevyhneme.

Z dlouhodobého hlediska přichází na stůl zmíněná hrozba v podobě možné vzpoury robotů, kdy jednotlivé systémy budou schopny fungovat nejen autonomně bez závislosti na lidském faktoru, ale zároveň budou schopny samy sebe vylepšovat (tzv. technologická singularita). Ano, v současné době je to absolutní sci-fi a před lidstvem stojí mnoho dalších hrozeb, které mohou být v krátkodobém až střednědobém horizontu devastující. Na druhou stranu je nutné přemýšlet o určité záchranné brzdě a tuto hrozbu nepodceňovat, jelikož vývoji AI se již nevyhneme.

Automatizace je doslova na každém kroku i v běžných mobilních telefonech za nás přemýšlí procesor. Napadá mě, že podle takzvaného Moorova zákona by měly počítače dosáhnout výkonu srovnatelného s lidským mozkem v roce 2029. Co pak?
To je velice zajímavá otázka, na kterou v současné době asi nedokáže nikdo přesně odpovědět. Není ani zcela jisté, zdali k tomu dojde v roce 2029. V prvé řadě je však nutné si uvědomit, že naše závislost na moderních technologiích je čím dál tím znatelnější, což vede zároveň k tzv. intelektuálnímu zlenivění.

ANALÝZA: Umělá inteligence a tvorba legislativního rámce

Tato závislost negativně ovlivňuje nejen naše rozhodování a chování při krizových situacích, ale de facto omezuje lidské dovednosti. V praxi však bude záležet zejména na nás, jestli budeme využívat nové technologie ve prospěch lidstva a k záchranám životů či nikoliv. Pokud budou jednotlivé systémy zcela autonomní a dosáhnou úrovně, která bude pro lidstvo nebezpečná, bude zásadní zajistit možnost daný systém či robota deaktivovat.

A je obecně vůbec nutné svazovat právními mantinely „něco“, co člověk vytvořil a „jen pro něj pracuje“ nebo se zaměřit na lidi, kteří zařízení či systémy s umělou inteligencí používají a budou používat a případně i zneužívat?
Využití AI skrývá obrovský potenciál, ale i značná bezpečnostní rizika. Na zavedení legislativních opatření proti zneužití AI, zejména v obranném průmyslu, se proto shoduje mnoho vědců. Bohužel regulace v této oblasti je nejen komplikovaná, ale v praxi zejména těžko realizovatelná, a to jak během vývoje, tak i ex-post.

Mezi hlavní důvody patří problematika spjatá s otázkou, jakým způsobem by měl být daný problém regulován. Pokud bychom navíc chtěli zajistit právní mantinely na globální úrovni, což je v této oblasti nezbytné, budeme čelit neochotě některých zemí světa se na určité tvorbě podílet. Mimo to je velmi komplikované zajistit jednotné řešení sporů, když se v praxi právní zvyklosti v jednotlivých zemích značně odlišují.

Existují už nějaké jasné příklady zneužití či pokusů zneužití umělé inteligence v obranném průmyslu?
Rozvoj AI v obranném průmyslu se v současné době nenachází na úrovni, kdy by systémy fungovaly zcela autonomně. Vždy je nutné učinit rozhodnutí k provedení daného úkonu a poté stisknout pomyslné červené tlačítko. Systémy jsou spíše tedy částečně autonomní. Pokud však dojde k masové produkci takovýchto systémů, můžeme očekávat, že dřív nebo později se dostanou na černý trh a tedy i zároveň do rukou zmíněných teroristických organizací.

Stále častěji diskutovaným fenoménem jsou plně automatizované zbraňové systémy. Už jen současné bezpilotní prostředky jsou schopny prakticky autonomně fungovat nad danou oblastí. Je vůbec možné nějak právně jejich použití a tedy i případné zneužití definovat?
Problém definic se nachází u veškerých hrozeb, které ovlivňují naše životy. Pokud se například zúčastníte setkání mezinárodní konference, každý expert či státník vám sdělí odlišnou definici hrozby na dané téma. Co se týče umělé inteligence, není tomu jinak. Nejčastěji využívané definice jsou navíc příliš obecné, a to i přes to, jak je tato problematika rozsáhlá a komplikovaná. I kdybychom se však shodli na jednotné definici a nastavili legislativní rámec pro řešení problémů spojených s AI, zneužití nezabráníme.

Zdá se, že vlastně globálně nejsou nastavena ani etická pravidla a nemyslím jen v oblasti zbraňových systémů?
Je to přesně tak a bohužel nemůžeme ani očekávat, že k nastavení určitých pravidel v nejbližší budoucnosti dojde. Uvědomme si, že již v dnešní době dochází k vývoji a užívání (polo)autonomních systémů. Každý subjekt v soukromém sektoru či aktér v mezinárodních vztazích se bude vždy snažit využít konkurenční výhody a posílit tak svou pozici. Hlavním impulsem pro tvorbu legislativního rámce bude až hmatatelná hrozba. V současné době tedy není ani na místě si pokládat otázku, zda bude vůbec možné regulovat AI, ale spíše, kdo bude jako první nové technologie ovládat a tedy i využívat, respektive zneužívat.

Autor: natoaktual.cz
  • Nejčtenější

Nejproočkovanější země světa zavádí tvrdá opatření. Covid mají i očkovaní

Premium Na Seychelách vyskočil součet všech případů za více než rok pandemie v posledních třech dnech o třináctinu. Problém je...

Dítě spolykalo syrové fazole a po výplachu žaludku zemřelo, lékaře stíhají

Státní zastupitelství podalo obžalobu na lékaře pro usmrcení z nedbalosti. Podle vyšetřovatelů je odpovědný za smrt...

Do boje o Hrad se hlásí další osobnosti. Eben ani Hašek kandidovat nebudou

Premium Již za necelé dva roky bude mít Česko nového prezidenta. Kandidaturu více či méně oznámili čtyři uchazeči, další svou...

Lidé mohou od 10. 5. venku odložit roušku. Otevřou obchody i další služby

Rozvolňování protikoronavirových opatření pokračuje. Lidé budou moci od 10. května venku odložit roušku a kromě obchodů...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Anonym pohrozil útokem na školku. Policie má poplach, neví na kterou

Policie se zabývá anonymní výhrůžkou o připravovaném útoku na mateřskou školu. O kterou přesně jde, zatím úřady nevědí....

Pochvaly bych výrazně omezil, víc berou než dávají, vysvětluje psycholog

Premium Stále více čelíme nezdravému tlaku, abychom byli úspěšnější a výkonnější. Jak budovat zdravé sebevědomí? Jak správně...

Opakovaný výstup na osmitisícovku může urychlit demenci, říká neurochirurg Beneš

Premium Špičkový neurochirurg Vladimír Beneš, už třetí v řadě slavné neurochirurgické dynastie, o šťourátku v mozku, hezkých...

Pohodlnější to nikdy nebylo. Velký přehled služeb televize přes internet

Premium Otestovali jsme devět služeb televize přes internet. Vybrali jsme ty, které můžete používat s libovolným poskytovatelem...

  • Další z rubriky

Cena za děla a rakety je příliš vysoká. Obrana chce dál vyjednávat

První cenové nabídky na dodávky nových děl a protivzdušných systémů pro českou armádu jsou podle ministerstva obrany...

Mi casa es su CASA. Armáda převzala ve Španělsku zbrusu nový letoun

V tomto případě má španělská zdvořilostní fráze, že „můj dům je i tvým domovem“, velmi příznačný symbolický význam....

USA znovu zkouší obranu Evropy. Loňský test překazila pandemie covidu

Bude to největší americké vojenské cvičení nebo spíš série manévrů na evropském kontinentu minimálně za poslední dvě...

Nákup BVP stále v ohrožení. Obří zakázku torpéduje ministerstvo průmyslu

Nákup 210 nových pásových bojových vozidel pěchoty pro armádu je stále v ohrožení, ačkoliv má obrana po měsících...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Výchova šokem: policie vytáhla čumila z auta, aby si prohlédl mrtvolu

Na německé dálnici A3 v Hesensku v neděli zahynuli při dopravní nehodě dva mladí lidé, muž ve věku 35 let na místě,...

Máte jeden z těchto mobilů? Brzy si s ním na mobilním internetu neškrtnete

Letošek je v Česku ve znamení vypínání sítí postavených na zastaralé 3G technologii. Jako poslední ji koncem listopadu...

Kristelová žaluje Novotného. Za zničenou kariéru chce půl milionu

Soud začal projednávat žalobu Kateřiny Kristelové na Pavla Novotného. Moderátorka tvrdí, že jí někdejší bulvární...

Nová Škoda Fabia odhalena, ceny startují na 330 tisících

Škoda odhalila v online světové premiéře čtvrtou generaci modelu Fabia. Automobilka také zveřejnila základní cenu...

KOMENTÁŘ: Konec legrace, teď začne pořádné zdražování

Postupné zpomalování růstu cen, které v Česku probíhalo od loňského července, je u konce. V březnu byla inflace na...