Sobota 7. prosince 2019, svátek má Ambrož, Benjamin
  • schránka
  • Přihlásit Můj účet
  • Sobota 7. prosince 2019 Ambrož, Benjamin

Robotičtí vojáci by zabíjeli bez soucitu. Vědci před nimi varují

aktualizováno 
Nebudou brát ohledy a budou efektivnějšími zabijáky než lidé. Autonomní robotické zbraňové systémy, které by samy rozhodovaly, kdy a koho budou vraždit, s sebou nesou spoustu otazníků. Žádná velmoc však v jejich vývoji nechce zaostat.

Hlásím se do služby. Tento robot patroluje v Dubaji a je prvním robotickým policistou na světě. | foto: Profimedia.cz

Dosavadní historie válek je vlastně soustředěný rozvoj dehumanizace boje. Zvyšuje se odstup a minimalizuje kontakt. Když vražedný sek bronzového meče vedla lidská ruka, byl vztah mezi útočníkem a obětí přímý. Vynález střelných zbraní umírající od těch, kdo zabíjí, odcizil. A mezikontinentální balistické střely dokážou zahubit statisíce, aniž by jim musel voják u odpalovacího zařízení pohlédnout do očí.

Fotogalerie

Dosud to ale byly vždy lidské ruce, které musely zmáčknout spoušť. Jenže to se teď s nástupem plně automatizovaných zbraňových systémů mění.

Vědci proti robotickým zabijákům

V roce 2015 obdržela Organizace spojených národů trochu neobvyklý otevřený dopis. Nesl podpisy více než tisícovky výzkumníků, vědců a vývojářů z oblasti robotiky, kybernetiky a umělé inteligence. Technologové, programátoři, ale také biochemikové nebo průkopníci na poli obnovitelných zdrojů energie, mezi nimiž nechyběl například Stephen Hawking, Steve Wozniak nebo Elon Musk, požadovali jediné. Okamžitý zákaz vývoje a používání prvků ozbrojené technologie s umělou inteligencí.

„Povaha těchto zbraní ruší dosavadní meze konfliktů,“ píší v listu odborníci. „Umělá inteligence nahrazuje rizika, vyplývající z možné ztráty života vojáka v poli. Její nasazení nepůsobí formální potíže v mezinárodním společenství. Nástroje, jako plně automatizované drony, budou schopny vyhledávat své cíle a ničit je nezávisle na lidských příkazech, nebude přitom příliš nákladné je vyrábět.“

A kromě toho má angažmá robotů v ozbrojených konfliktech ještě jeden rys. Zatímco pro výrobu jaderných zbraní je zapotřebí sofistikované techniky, znalostí, materiálů, produkovat umělé nástroje vraždění je o poznání snazší.

Zakažte autonomní roboty zabijáky, apeluje Musk a další experti u OSN

Příliš dostupní zabijáci

Země, které sice zatím nevlastní technologii k výrobě jaderných zbraní, ale dokážou sestavit „o trochu komplikovanější“ dron, by totiž mohly snadno dorovnat své skóre na poli mezinárodních konfliktů. Nepotřebují trávit dlouhou a nákladnou cestu na vytvoření vlastního odstrašujícího jaderné arzenálu, raději investují do výroby tisíců nebo milionů automatizovaných, autonomních mini a maxi-válečníků.

Otázek spojených s využitím autonomních zbrojních systémů je v dopise dlouhá řada: „Můžeme vůbec věřit stroji, jehož obdaříme inteligencí a smrtící silou? Kdo ponese odpovědnost, když se samostatně rozhodující robot rozhodne zaútočit na školu nebo nemocnici? Je lidská důstojnost pokořena více, když člověka zabije jiná lidská bytost, nebo když jej usmrtí stroj?“

Organizace spojených národů si dala s odpovědí načas, zareagovala teprve v prosinci roku 2016. Sestavila prý expertní skupinu složenou z odborníků různých národností, kteří prošetří legislativní kroky, které by bylo pro požadovaný zákaz zbraní řízených umělou inteligencí zapotřebí učinit.

Autoři dopisu však namítají, že by to mohlo trvat celá léta. A svět zatím zbrojí.

Direktiva 3000.09

Například ruská společnost Kalashnikov Group už na veletrhu Army 2017 slíbila předvedení „prvních produktů založených na systému neurálních sítí“. Jednat by se mělo o bojové moduly, schopné činit jistá samostatná rozhodnutí, například vybírat si podle nastavené priority cíle. Testy již provádí i armáda Spojených států amerických, Číny nebo Izraele. Je to totiž velmi slibný směr vývoje zbraní, kterou si z mocenských nebo bezpečnostních důvodů nemohou dovolit opomenout, jak zdůrazňují.

Americký generální štáb se zatím navenek staví k možnosti využití pokročilé technologie váhavě. Oficiální stanovisko (takzvaná Direktiva 3000.09) zní, že autonomní systémy mohou být pouze použity ve formě buď neletální, tedy nesmrtící, nebo nepohyblivé síly. A součástí rozhodovacího řetězce vždy musí být prvek lidského myšlení. Potenciální útočník tedy může být s pomocí moderních nástrojů odhalen a zaměřen, ale „spoušť“, byť na vzdálenost stovek kilometrů, musí zmáčknout živý lidský voják. Že má však tato logika praktické mezery, upozorňují sami američtí vojenští experti.

Mezery v dokonalém systému

Plukovník americké armády Joseph Brecher se navíc staví za plnou automatizaci zbraňových systémů. Uvádí dva zásadní argumenty. „Pokud proti sobě bude stát plně automatizovaný autonomní zbraňový systém a člověkem spoluřízený poloautomatický, ten zbavený lidského faktoru bude jednoznačně efektivnější a rychlejší,“ tvrdí.

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s...

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s vojáky a nosí zbraně a vybavení.

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a...

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a snazší přenášení těžké výbavy. Napodobuje pohyb svalů a podporuje ho tak.

Druhou, na první pohled ne tolik zjevnou slabinou zbraňových prvků spoluřízených člověkem, je poté podle něj jejich zranitelnost vůči vnějšímu narušení systému. Poloautomatické zbraně, které jsou závislé na lidských rozhodnutích, musí s člověkem nějakým způsobem komunikovat. „A tato komunikační spojnice může systém prozradit nepříteli nebo být třeba napadena nepřátelským hackerem. A obrátit se proti svým tvůrcům,“ dodává výhružně Brecher.

Ne sice vždy, ale dost často ve válkách vítězí ten, kdo si počíná bezskrupulózně. A národ nebo země, která jako první vsadí na plně automatizované robotické zbraňové systémy, bude před ostatními ve zřetelné výhodě. Současný směr vývoje umělé inteligence ve službách armády udávají podle výzkumnice Heather Roffové hlavně dva přístupy. „Tím prvním je ´vyčkávací´ aplikace. Něco jako stacionární robotická jednotka, která na své pozici monitoruje a vyhodnocuje situaci. V případě narušení bezpečnostního protokolu je pak připravena jednat,“ líčí.

Druhým modelem je „vzdálená platforma“, vycházející z principu nepilotovaných létajících prostředků, jako je například Predator UAV. „Nemají specifický cíl v zóně zásahu a jejich arzenál se aktivuje teprve při identifikaci pozemního terče,“ říká Roffová a dodává: „V realitě jsou obě tyto technologie zatím deponovány v malých počtech, ale ve složce výrobních součástek a vývoje je jejich objem už dnes masivní.“

Nejde je nevyvíjet

„Tyto novodobé zbraňové systémy mají Spojeným státům zajistit vytrvalou převahu na budoucích bojištích,“ tvrdí tajemník amerického ministerstva obrany Robert O. Work. „Nejde je nevyvíjet. Naši tradiční rivalové Rusko a Čína i naši tradiční spojenci Británie a Izrael na nich už pracují. V případě Číny a Ruska víme tolik, že jejich počítačové sítě jsou už tak dobré, jako naše. Vidí tak daleko, jako my, jsou schopni poslat naváděnou střelu tak daleko, jako my. A my si potřebujeme být jisti, že pořád budeme moci vítězit tak snadno, jako v minulosti,“ nezastírá americké odhodlání.

Americké ministerstvo obrany připouští, že vyvíjí autonomní stíhače, které by byly schopny bojovat po boku lidmi řízených letadel. Ve hře je i „vytrvalá“ raketa, která by dokázala až jedenáct dní kroužit a vyčkávat v určeném prostoru, než by zaútočila. Určena má být proti hladinovým plavidlům protivníka a „rozhodovat o volbě vhodného cíle“ se už má sama.

V roce 2016 ve svém rozpočtu Pentagon vyčlenil relativně malou sumu 18 miliard dolarů, která má v horizontu tří následujících let jít na výzkum autonomních vojenských systémů. Jak ale říká s jistou nadsázkou Work: „Trendem současnosti není zatím rozhodně vyrábět něco jako terminátora, ale spíše podpůrné prostředky boje a průzkumu, doprovázející lidské vojáky. Podstatné pro nás je, aby byl součástí rozhodovacího procesu vždy člověk.“

Mít je znamená použít je, tvrdí kritici

Kritici vývoje autonomních zbraňových systémů ale varují, že každý krok směrem k aplikaci pootevírá Pandořinu skříňku. Peter Singer, technický poradce Washingtonu pro „války budoucnosti“, uvádí zajímavý příklad. „Když během první světové války začaly německé ponorky napadat civilní lodě, odsoudily to Spojené státy jako do krajnosti nehumánní krok. Byla to i jedna z příčin, proč jsme se do války jako národ zapojili. A po válce jsme se zasadili o to, aby byla podobná praxe postavena mimo zákon. A dál? Když 7. prosince roku 1941 bez předchozího vyhlášení války zaútočili Japonci na naši flotilu v Pearl Harboru, trvalo nám šest hodin, než jsme proti nim sami schválili neomezenou ponorkovou válku. Všechno je relativní.“

Zdůrazňuje, že nevěří, že by Spojené státy nebo kterákoliv jiná země, která by v případné příští válce prohrávala, nepoužila všechny dostupné prostředky, které dnes možná považuje za neetické či nemorální. „Problém s autonomními zbraňovými systémy je ten, že když je už jednou máte, budete je prostě chtít použít. A pokud by nás plně autonomní stroje na zabíjení měly přiblížit vítězství, využijeme jich a morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin,“ soudí.

Autoři:
  • Nejčtenější

Sex před webkamerou. Společnost mě na tu práci připravila, říká umělkyně

Infiltrovala průmysl s erotikou před webovými kamerami, aby zažila prodej intimity za peníze na vlastní kůži. Přiznává,...

„Bolševický čaroděj“ řídil v Praze výzkum paranormálních jevů

Byl to takový český projekt Akta X. Desítky vědců i senzibilů zkoumaly od 60. let fenomény jasnovidectví či...

Premium

Oči umí prozradit lháře, alfasamce i týrané dítě, objasňuje psycholog

Psycholog neverbální komunikace Vladimír Svoboda vysvětluje, jak lze pomocí očí trestat malé děti, proč pohledům rozumí...

Velel jsem, osvobozoval, chlubil se politik. Pak promluvily archivy

Druhá světová válka znamenala zmatek a chaos je půdou pro lži. A díky tomu se mohl Douglas Stringfellow vybavit...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Premium

Matka nevěsty jim zarazila svatbu, tak ženich vzal nůž a ubodal je

V lednu 1929 zuřily na Strakonicku mrazy, na jaké si ani ti nejstarší pamětníci nevzpomínali. Kdo nemusel ven,...

Premium

Sprcha pro osm lidí: jak to vypadalo na Epsteinově ranči na dělání dětí

Kdyby zdi mohly mluvit. Přinášíme exkluzivně snímky přepychového ranče, kam americký finančník Jeffrey Epstein svážel...

Premium

Je sexting nevinná hra nebo nevěra? Pánové jsou tolerantnější než dámy

Generace našich rodičů tohle řešit nemusela. Měli poměrně jasno a věděli, co je a není zahýbání. Moderní technologie...

Premium

Den, kdy přepadli Mekku. V roce 1979 se zrodil moderní islámský středověk

Před 40 lety se stalo „11. září“ islámu. Aby saúdský král mohl pobít ozbrojence okupující posvátnou mešitu v Mekce,...

  • Další z rubriky

Shakespearova Julie je v každé ženě, ukazuje kalendář Pirelli. Podívejte se

Je čistá, něžná, naivní a nevinná, ale též tvrdá, silná, rafinovaná a odvážná. Shakespearovu Julii představuje vydání...

Svoje portréty kreslím světlem, říká fotograf kalendáře Pirelli

Jeho snímky v sobě mají extázi, snivost, bezčasí. Tajemství, jistou zbožnost, prvek rozjímání. Fotí odhalené ženy,...

Premium

Matka nevěsty jim zarazila svatbu, tak ženich vzal nůž a ubodal je

V lednu 1929 zuřily na Strakonicku mrazy, na jaké si ani ti nejstarší pamětníci nevzpomínali. Kdo nemusel ven,...

KVÍZ: Karel IV. jako muž. Jak to (u)měl s ženami?

Vraťme se o 673 let zpět: 26. listopadu roku 1346 prožíval Karel IV. jeden ze zásadních momentů svého vladařského...

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!

Najdete na iDNES.cz