Dosavadní historie válek je vlastně soustředěný rozvoj dehumanizace boje. Zvyšuje se odstup a minimalizuje kontakt. Když vražedný sek bronzového meče vedla lidská ruka, byl vztah mezi útočníkem a obětí přímý. Vynález střelných zbraní umírající od těch, kdo zabíjí, odcizil. A mezikontinentální balistické střely dokážou zahubit statisíce, aniž by jim musel voják u odpalovacího zařízení pohlédnout do očí.
Dosud to ale byly vždy lidské ruce, které musely zmáčknout spoušť. Jenže to se teď s nástupem plně automatizovaných zbraňových systémů mění.
Vědci proti robotickým zabijákům
V roce 2015 obdržela Organizace spojených národů trochu neobvyklý otevřený dopis. Nesl podpisy více než tisícovky výzkumníků, vědců a vývojářů z oblasti robotiky, kybernetiky a umělé inteligence. Technologové, programátoři, ale také biochemikové nebo průkopníci na poli obnovitelných zdrojů energie, mezi nimiž nechyběl například Stephen Hawking, Steve Wozniak nebo Elon Musk, požadovali jediné. Okamžitý zákaz vývoje a používání prvků ozbrojené technologie s umělou inteligencí.
2. prosince 2017 |
„Povaha těchto zbraní ruší dosavadní meze konfliktů,“ píší v listu odborníci. „Umělá inteligence nahrazuje rizika, vyplývající z možné ztráty života vojáka v poli. Její nasazení nepůsobí formální potíže v mezinárodním společenství. Nástroje, jako plně automatizované drony, budou schopny vyhledávat své cíle a ničit je nezávisle na lidských příkazech, nebude přitom příliš nákladné je vyrábět.“
A kromě toho má angažmá robotů v ozbrojených konfliktech ještě jeden rys. Zatímco pro výrobu jaderných zbraní je zapotřebí sofistikované techniky, znalostí, materiálů, produkovat umělé nástroje vraždění je o poznání snazší.
Zakažte autonomní roboty zabijáky, apeluje Musk a další experti u OSN |
Příliš dostupní zabijáci
Země, které sice zatím nevlastní technologii k výrobě jaderných zbraní, ale dokážou sestavit „o trochu komplikovanější“ dron, by totiž mohly snadno dorovnat své skóre na poli mezinárodních konfliktů. Nepotřebují trávit dlouhou a nákladnou cestu na vytvoření vlastního odstrašujícího jaderné arzenálu, raději investují do výroby tisíců nebo milionů automatizovaných, autonomních mini a maxi-válečníků.
Otázek spojených s využitím autonomních zbrojních systémů je v dopise dlouhá řada: „Můžeme vůbec věřit stroji, jehož obdaříme inteligencí a smrtící silou? Kdo ponese odpovědnost, když se samostatně rozhodující robot rozhodne zaútočit na školu nebo nemocnici? Je lidská důstojnost pokořena více, když člověka zabije jiná lidská bytost, nebo když jej usmrtí stroj?“
Organizace spojených národů si dala s odpovědí načas, zareagovala teprve v prosinci roku 2016. Sestavila prý expertní skupinu složenou z odborníků různých národností, kteří prošetří legislativní kroky, které by bylo pro požadovaný zákaz zbraní řízených umělou inteligencí zapotřebí učinit.
Autoři dopisu však namítají, že by to mohlo trvat celá léta. A svět zatím zbrojí.
Direktiva 3000.09
Například ruská společnost Kalashnikov Group už na veletrhu Army 2017 slíbila předvedení „prvních produktů založených na systému neurálních sítí“. Jednat by se mělo o bojové moduly, schopné činit jistá samostatná rozhodnutí, například vybírat si podle nastavené priority cíle. Testy již provádí i armáda Spojených států amerických, Číny nebo Izraele. Je to totiž velmi slibný směr vývoje zbraní, kterou si z mocenských nebo bezpečnostních důvodů nemohou dovolit opomenout, jak zdůrazňují.
Americký generální štáb se zatím navenek staví k možnosti využití pokročilé technologie váhavě. Oficiální stanovisko (takzvaná Direktiva 3000.09) zní, že autonomní systémy mohou být pouze použity ve formě buď neletální, tedy nesmrtící, nebo nepohyblivé síly. A součástí rozhodovacího řetězce vždy musí být prvek lidského myšlení. Potenciální útočník tedy může být s pomocí moderních nástrojů odhalen a zaměřen, ale „spoušť“, byť na vzdálenost stovek kilometrů, musí zmáčknout živý lidský voják. Že má však tato logika praktické mezery, upozorňují sami američtí vojenští experti.
Mezery v dokonalém systému
Plukovník americké armády Joseph Brecher se navíc staví za plnou automatizaci zbraňových systémů. Uvádí dva zásadní argumenty. „Pokud proti sobě bude stát plně automatizovaný autonomní zbraňový systém a člověkem spoluřízený poloautomatický, ten zbavený lidského faktoru bude jednoznačně efektivnější a rychlejší,“ tvrdí.
Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s vojáky a nosí zbraně a vybavení.
Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a snazší přenášení těžké výbavy. Napodobuje pohyb svalů a podporuje ho tak.
Druhou, na první pohled ne tolik zjevnou slabinou zbraňových prvků spoluřízených člověkem, je poté podle něj jejich zranitelnost vůči vnějšímu narušení systému. Poloautomatické zbraně, které jsou závislé na lidských rozhodnutích, musí s člověkem nějakým způsobem komunikovat. „A tato komunikační spojnice může systém prozradit nepříteli nebo být třeba napadena nepřátelským hackerem. A obrátit se proti svým tvůrcům,“ dodává výhružně Brecher.
Ne sice vždy, ale dost často ve válkách vítězí ten, kdo si počíná bezskrupulózně. A národ nebo země, která jako první vsadí na plně automatizované robotické zbraňové systémy, bude před ostatními ve zřetelné výhodě. Současný směr vývoje umělé inteligence ve službách armády udávají podle výzkumnice Heather Roffové hlavně dva přístupy. „Tím prvním je ´vyčkávací´ aplikace. Něco jako stacionární robotická jednotka, která na své pozici monitoruje a vyhodnocuje situaci. V případě narušení bezpečnostního protokolu je pak připravena jednat,“ líčí.
Druhým modelem je „vzdálená platforma“, vycházející z principu nepilotovaných létajících prostředků, jako je například Predator UAV. „Nemají specifický cíl v zóně zásahu a jejich arzenál se aktivuje teprve při identifikaci pozemního terče,“ říká Roffová a dodává: „V realitě jsou obě tyto technologie zatím deponovány v malých počtech, ale ve složce výrobních součástek a vývoje je jejich objem už dnes masivní.“
Nejde je nevyvíjet
„Tyto novodobé zbraňové systémy mají Spojeným státům zajistit vytrvalou převahu na budoucích bojištích,“ tvrdí tajemník amerického ministerstva obrany Robert O. Work. „Nejde je nevyvíjet. Naši tradiční rivalové Rusko a Čína i naši tradiční spojenci Británie a Izrael na nich už pracují. V případě Číny a Ruska víme tolik, že jejich počítačové sítě jsou už tak dobré, jako naše. Vidí tak daleko, jako my, jsou schopni poslat naváděnou střelu tak daleko, jako my. A my si potřebujeme být jisti, že pořád budeme moci vítězit tak snadno, jako v minulosti,“ nezastírá americké odhodlání.
Americké ministerstvo obrany připouští, že vyvíjí autonomní stíhače, které by byly schopny bojovat po boku lidmi řízených letadel. Ve hře je i „vytrvalá“ raketa, která by dokázala až jedenáct dní kroužit a vyčkávat v určeném prostoru, než by zaútočila. Určena má být proti hladinovým plavidlům protivníka a „rozhodovat o volbě vhodného cíle“ se už má sama.
V roce 2016 ve svém rozpočtu Pentagon vyčlenil relativně malou sumu 18 miliard dolarů, která má v horizontu tří následujících let jít na výzkum autonomních vojenských systémů. Jak ale říká s jistou nadsázkou Work: „Trendem současnosti není zatím rozhodně vyrábět něco jako terminátora, ale spíše podpůrné prostředky boje a průzkumu, doprovázející lidské vojáky. Podstatné pro nás je, aby byl součástí rozhodovacího procesu vždy člověk.“
Mít je znamená použít je, tvrdí kritici
Kritici vývoje autonomních zbraňových systémů ale varují, že každý krok směrem k aplikaci pootevírá Pandořinu skříňku. Peter Singer, technický poradce Washingtonu pro „války budoucnosti“, uvádí zajímavý příklad. „Když během první světové války začaly německé ponorky napadat civilní lodě, odsoudily to Spojené státy jako do krajnosti nehumánní krok. Byla to i jedna z příčin, proč jsme se do války jako národ zapojili. A po válce jsme se zasadili o to, aby byla podobná praxe postavena mimo zákon. A dál? Když 7. prosince roku 1941 bez předchozího vyhlášení války zaútočili Japonci na naši flotilu v Pearl Harboru, trvalo nám šest hodin, než jsme proti nim sami schválili neomezenou ponorkovou válku. Všechno je relativní.“
Zdůrazňuje, že nevěří, že by Spojené státy nebo kterákoliv jiná země, která by v případné příští válce prohrávala, nepoužila všechny dostupné prostředky, které dnes možná považuje za neetické či nemorální. „Problém s autonomními zbraňovými systémy je ten, že když je už jednou máte, budete je prostě chtít použít. A pokud by nás plně autonomní stroje na zabíjení měly přiblížit vítězství, využijeme jich a morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin,“ soudí.
