Premium

Získejte všechny články
jen za 89 Kč/měsíc

Vzpoura robotů nehrozí, zatím. Hrozbu ale nesmíme podcenit, říká expert

  9:26
Vývoj umělé inteligence je nezadržitelný. Svět už začíná uvažovat o tom, jak pro její využívání a také zneužívání vymezit právní rámce. Ačkoliv "vzpoura robotů" zůstává v oblasti sci-fi, pro hrozbu budoucnosti by měla existovat pomyslná záchranná brzda, tvrdí v rozhovoru Luděk Jiráček z Asociace pro mezinárodní otázky.

Umělá inteligence - volná ilustrace | foto: en.ncognitivescience.com

Když to trochu nadnesu, vzpoura robotů nám sice zatím nehrozí, ale hledání právních rámců pro jisté svázání AI (umělá inteligence) je třeba právě i kvůli tomu, aby k něčemu takovému nedošlo?
Právní rámec v oblasti bezpečnostní politiky má v současné době dvě hlavní roviny. Přední vědci a experti v prvé řadě upozorňují na možnost zneužití AI například ze strany teroristických organizací či diktátorů vůči civilnímu obyvatelstvu, a to již v krátkodobém až střednědobém horizontu. Tomu se zcela jistě nevyhneme.

Z dlouhodobého hlediska přichází na stůl zmíněná hrozba v podobě možné vzpoury robotů, kdy jednotlivé systémy budou schopny fungovat nejen autonomně bez závislosti na lidském faktoru, ale zároveň budou schopny samy sebe vylepšovat (tzv. technologická singularita). Ano, v současné době je to absolutní sci-fi a před lidstvem stojí mnoho dalších hrozeb, které mohou být v krátkodobém až střednědobém horizontu devastující. Na druhou stranu je nutné přemýšlet o určité záchranné brzdě a tuto hrozbu nepodceňovat, jelikož vývoji AI se již nevyhneme.

Automatizace je doslova na každém kroku i v běžných mobilních telefonech za nás přemýšlí procesor. Napadá mě, že podle takzvaného Moorova zákona by měly počítače dosáhnout výkonu srovnatelného s lidským mozkem v roce 2029. Co pak?
To je velice zajímavá otázka, na kterou v současné době asi nedokáže nikdo přesně odpovědět. Není ani zcela jisté, zdali k tomu dojde v roce 2029. V prvé řadě je však nutné si uvědomit, že naše závislost na moderních technologiích je čím dál tím znatelnější, což vede zároveň k tzv. intelektuálnímu zlenivění.

ANALÝZA: Umělá inteligence a tvorba legislativního rámce

Tato závislost negativně ovlivňuje nejen naše rozhodování a chování při krizových situacích, ale de facto omezuje lidské dovednosti. V praxi však bude záležet zejména na nás, jestli budeme využívat nové technologie ve prospěch lidstva a k záchranám životů či nikoliv. Pokud budou jednotlivé systémy zcela autonomní a dosáhnou úrovně, která bude pro lidstvo nebezpečná, bude zásadní zajistit možnost daný systém či robota deaktivovat.

A je obecně vůbec nutné svazovat právními mantinely „něco“, co člověk vytvořil a „jen pro něj pracuje“ nebo se zaměřit na lidi, kteří zařízení či systémy s umělou inteligencí používají a budou používat a případně i zneužívat?
Využití AI skrývá obrovský potenciál, ale i značná bezpečnostní rizika. Na zavedení legislativních opatření proti zneužití AI, zejména v obranném průmyslu, se proto shoduje mnoho vědců. Bohužel regulace v této oblasti je nejen komplikovaná, ale v praxi zejména těžko realizovatelná, a to jak během vývoje, tak i ex-post.

Mezi hlavní důvody patří problematika spjatá s otázkou, jakým způsobem by měl být daný problém regulován. Pokud bychom navíc chtěli zajistit právní mantinely na globální úrovni, což je v této oblasti nezbytné, budeme čelit neochotě některých zemí světa se na určité tvorbě podílet. Mimo to je velmi komplikované zajistit jednotné řešení sporů, když se v praxi právní zvyklosti v jednotlivých zemích značně odlišují.

Existují už nějaké jasné příklady zneužití či pokusů zneužití umělé inteligence v obranném průmyslu?
Rozvoj AI v obranném průmyslu se v současné době nenachází na úrovni, kdy by systémy fungovaly zcela autonomně. Vždy je nutné učinit rozhodnutí k provedení daného úkonu a poté stisknout pomyslné červené tlačítko. Systémy jsou spíše tedy částečně autonomní. Pokud však dojde k masové produkci takovýchto systémů, můžeme očekávat, že dřív nebo později se dostanou na černý trh a tedy i zároveň do rukou zmíněných teroristických organizací.

Stále častěji diskutovaným fenoménem jsou plně automatizované zbraňové systémy. Už jen současné bezpilotní prostředky jsou schopny prakticky autonomně fungovat nad danou oblastí. Je vůbec možné nějak právně jejich použití a tedy i případné zneužití definovat?
Problém definic se nachází u veškerých hrozeb, které ovlivňují naše životy. Pokud se například zúčastníte setkání mezinárodní konference, každý expert či státník vám sdělí odlišnou definici hrozby na dané téma. Co se týče umělé inteligence, není tomu jinak. Nejčastěji využívané definice jsou navíc příliš obecné, a to i přes to, jak je tato problematika rozsáhlá a komplikovaná. I kdybychom se však shodli na jednotné definici a nastavili legislativní rámec pro řešení problémů spojených s AI, zneužití nezabráníme.

Zdá se, že vlastně globálně nejsou nastavena ani etická pravidla a nemyslím jen v oblasti zbraňových systémů?
Je to přesně tak a bohužel nemůžeme ani očekávat, že k nastavení určitých pravidel v nejbližší budoucnosti dojde. Uvědomme si, že již v dnešní době dochází k vývoji a užívání (polo)autonomních systémů. Každý subjekt v soukromém sektoru či aktér v mezinárodních vztazích se bude vždy snažit využít konkurenční výhody a posílit tak svou pozici. Hlavním impulsem pro tvorbu legislativního rámce bude až hmatatelná hrozba. V současné době tedy není ani na místě si pokládat otázku, zda bude vůbec možné regulovat AI, ale spíše, kdo bude jako první nové technologie ovládat a tedy i využívat, respektive zneužívat.

Autor: , natoaktual.cz
  • Nejčtenější

Írán zaútočil na Izrael. Armáda zachytila většinu střel, pomohli spojenci

13. dubna 2024  20:38,  aktualizováno  14.4 8:54

Sledujeme online Írán vyslal na Izrael desítky bezpilotních letounů a také rakety. Je to odveta za útok na íránský...

Moderní lichváři připravují o bydlení dlužníky i jejich příbuzné. Trik je snadný

18. dubna 2024

Premium Potřebujete rychle peníze, pár set tisíc korun a ta nabídka zní lákavě: do 24 hodin máte peníze na...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Ženu soudí za sex se psem i zneužívání syna a vnuka. Byla to terapie, hájí se

15. dubna 2024  12:28,  aktualizováno  13:33

U Krajského soudu v Ústí nad Labem začalo projednávání případu dlouhodobého sexuálního zneužívání,...

Rusové zničili Ukrajině elektrárnu, Polsko kvůli útokům vyslalo stíhačky

11. dubna 2024  8:15,  aktualizováno  12:37

Sledujeme online Rusko v noci na čtvrtek podniklo rozsáhlý útok na energetickou infrastrukturu ve čtyřech...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Z léta opět do mrazů. V příštím týdnu bude i sněžit, varují meteorologové

11. dubna 2024  16:11

Léto se ještě zdaleka neblíží. Upozorňují na to meteorologové a dodávají, že podle všech modelů do...

Nepodřizujte se migračnímu paktu, vyzval Fialovu vládu šéf poslanců SPD

19. dubna 2024  5:40,  aktualizováno  11:32

Přímý přenos Tři a půl hodiny čtvrteční debaty o migračním paktu opozici nestačilo. „Je to největší ohrožení...

Útok na školačky ve Francii. Dvě jsou pobodané, třetí podlehla zástavě srdce

19. dubna 2024  10:23,  aktualizováno  11:32

Ve čtvrtek zemřela ve Francii čtrnáctiletá dívka, která prodělala zástavu srdce po nedalekém útoku....

V Polsku zatkli dva podezřelé z útoku kladivem na spolupracovníka Navalného

19. dubna 2024  11:29

V Polsku byli zadrženi dva lidé podezřelí z útoku na Leonida Volkova, spolupracovníka ruského...

Správu Pražského hradu povede ekonom Vyhnánek, bývalý náměstek primátora

19. dubna 2024  10:18,  aktualizováno  11:20

Správa pražského hradu v pátek oznámila jméno nového ředitele. Stane se jím dosavadní ředitel...

Náhle zemřel zpěvák Maxim Turbulenc Daniel Vali, bylo mu 53 let

Ve věku 53 let zemřel zpěvák skupiny Maxim Turbulenc Daniel Vali. Letos by se svou kapelou oslavil 30 let na scéně....

Sexy Sandra Nováková pózovala pro Playboy. Focení schválil manžel

Herečka Sandra Nováková už několikrát při natáčení dokázala, že s odhalováním nemá problém. V minulosti přitom tvrdila,...

Charlotte spí na Hlaváku mezi feťáky, dluží spoustě lidí, říká matka Štikové

Charlotte Štiková (27) před rokem oznámila, že zhubla šedesát kilo. Na aktuálních fotkách, které sdílela na Instagramu...

Vykrojené trikoty budí emoce. Olympijská kolekce Nike je prý sexistická

Velkou kritiku vyvolala kolekce, kterou pro olympijský tým amerických atletek navrhla značka Nike. Pozornost vzbudily...

Rohlík pro dítě, nákup do kočárku. Co v obchodě projde a kdy už hrozí právník?

V obchodech platí pravidla, která občas zákazník nedodržuje. Někdy se navoní parfémem, aniž by použil tester, nebo...