Středa 29. června 2022, svátek má Petr, Pavel
  • schránka
  • Přihlásit Můj účet
  • Středa 29. června 2022 Petr, Pavel

Robotičtí vojáci by zabíjeli bez soucitu. Vědci před nimi varují

Nebudou brát ohledy a budou efektivnějšími zabijáky než lidé. Autonomní robotické zbraňové systémy, které by samy rozhodovaly, kdy a koho budou vraždit, s sebou nesou spoustu otazníků. Žádná velmoc však v jejich vývoji nechce zaostat.

Hlásím se do služby. Tento robot patroluje v Dubaji a je prvním robotickým policistou na světě. | foto: Profimedia.cz

Dosavadní historie válek je vlastně soustředěný rozvoj dehumanizace boje. Zvyšuje se odstup a minimalizuje kontakt. Když vražedný sek bronzového meče vedla lidská ruka, byl vztah mezi útočníkem a obětí přímý. Vynález střelných zbraní umírající od těch, kdo zabíjí, odcizil. A mezikontinentální balistické střely dokážou zahubit statisíce, aniž by jim musel voják u odpalovacího zařízení pohlédnout do očí.

Dosud to ale byly vždy lidské ruce, které musely zmáčknout spoušť. Jenže to se teď s nástupem plně automatizovaných zbraňových systémů mění.

Vědci proti robotickým zabijákům

V roce 2015 obdržela Organizace spojených národů trochu neobvyklý otevřený dopis. Nesl podpisy více než tisícovky výzkumníků, vědců a vývojářů z oblasti robotiky, kybernetiky a umělé inteligence. Technologové, programátoři, ale také biochemikové nebo průkopníci na poli obnovitelných zdrojů energie, mezi nimiž nechyběl například Stephen Hawking, Steve Wozniak nebo Elon Musk, požadovali jediné. Okamžitý zákaz vývoje a používání prvků ozbrojené technologie s umělou inteligencí.

2. prosince 2017

„Povaha těchto zbraní ruší dosavadní meze konfliktů,“ píší v listu odborníci. „Umělá inteligence nahrazuje rizika, vyplývající z možné ztráty života vojáka v poli. Její nasazení nepůsobí formální potíže v mezinárodním společenství. Nástroje, jako plně automatizované drony, budou schopny vyhledávat své cíle a ničit je nezávisle na lidských příkazech, nebude přitom příliš nákladné je vyrábět.“

A kromě toho má angažmá robotů v ozbrojených konfliktech ještě jeden rys. Zatímco pro výrobu jaderných zbraní je zapotřebí sofistikované techniky, znalostí, materiálů, produkovat umělé nástroje vraždění je o poznání snazší.

Zakažte autonomní roboty zabijáky, apeluje Musk a další experti u OSN

Příliš dostupní zabijáci

Země, které sice zatím nevlastní technologii k výrobě jaderných zbraní, ale dokážou sestavit „o trochu komplikovanější“ dron, by totiž mohly snadno dorovnat své skóre na poli mezinárodních konfliktů. Nepotřebují trávit dlouhou a nákladnou cestu na vytvoření vlastního odstrašujícího jaderné arzenálu, raději investují do výroby tisíců nebo milionů automatizovaných, autonomních mini a maxi-válečníků.

Otázek spojených s využitím autonomních zbrojních systémů je v dopise dlouhá řada: „Můžeme vůbec věřit stroji, jehož obdaříme inteligencí a smrtící silou? Kdo ponese odpovědnost, když se samostatně rozhodující robot rozhodne zaútočit na školu nebo nemocnici? Je lidská důstojnost pokořena více, když člověka zabije jiná lidská bytost, nebo když jej usmrtí stroj?“

Organizace spojených národů si dala s odpovědí načas, zareagovala teprve v prosinci roku 2016. Sestavila prý expertní skupinu složenou z odborníků různých národností, kteří prošetří legislativní kroky, které by bylo pro požadovaný zákaz zbraní řízených umělou inteligencí zapotřebí učinit.

Autoři dopisu však namítají, že by to mohlo trvat celá léta. A svět zatím zbrojí.

Direktiva 3000.09

Například ruská společnost Kalashnikov Group už na veletrhu Army 2017 slíbila předvedení „prvních produktů založených na systému neurálních sítí“. Jednat by se mělo o bojové moduly, schopné činit jistá samostatná rozhodnutí, například vybírat si podle nastavené priority cíle. Testy již provádí i armáda Spojených států amerických, Číny nebo Izraele. Je to totiž velmi slibný směr vývoje zbraní, kterou si z mocenských nebo bezpečnostních důvodů nemohou dovolit opomenout, jak zdůrazňují.

Americký generální štáb se zatím navenek staví k možnosti využití pokročilé technologie váhavě. Oficiální stanovisko (takzvaná Direktiva 3000.09) zní, že autonomní systémy mohou být pouze použity ve formě buď neletální, tedy nesmrtící, nebo nepohyblivé síly. A součástí rozhodovacího řetězce vždy musí být prvek lidského myšlení. Potenciální útočník tedy může být s pomocí moderních nástrojů odhalen a zaměřen, ale „spoušť“, byť na vzdálenost stovek kilometrů, musí zmáčknout živý lidský voják. Že má však tato logika praktické mezery, upozorňují sami američtí vojenští experti.

Mezery v dokonalém systému

Plukovník americké armády Joseph Brecher se navíc staví za plnou automatizaci zbraňových systémů. Uvádí dva zásadní argumenty. „Pokud proti sobě bude stát plně automatizovaný autonomní zbraňový systém a člověkem spoluřízený poloautomatický, ten zbavený lidského faktoru bude jednoznačně efektivnější a rychlejší,“ tvrdí.

Robot LS-3, známý spíše jako Big Dog (Velký pes), nezabíjí. Na bojišti kluše s vojáky a nosí zbraně a vybavení.

Robotický oblek umožní vojákům lehčí chůzi, zdolávání delších vzdáleností a snazší přenášení těžké výbavy. Napodobuje pohyb svalů a podporuje ho tak.

Druhou, na první pohled ne tolik zjevnou slabinou zbraňových prvků spoluřízených člověkem, je poté podle něj jejich zranitelnost vůči vnějšímu narušení systému. Poloautomatické zbraně, které jsou závislé na lidských rozhodnutích, musí s člověkem nějakým způsobem komunikovat. „A tato komunikační spojnice může systém prozradit nepříteli nebo být třeba napadena nepřátelským hackerem. A obrátit se proti svým tvůrcům,“ dodává výhružně Brecher.

Ne sice vždy, ale dost často ve válkách vítězí ten, kdo si počíná bezskrupulózně. A národ nebo země, která jako první vsadí na plně automatizované robotické zbraňové systémy, bude před ostatními ve zřetelné výhodě. Současný směr vývoje umělé inteligence ve službách armády udávají podle výzkumnice Heather Roffové hlavně dva přístupy. „Tím prvním je ´vyčkávací´ aplikace. Něco jako stacionární robotická jednotka, která na své pozici monitoruje a vyhodnocuje situaci. V případě narušení bezpečnostního protokolu je pak připravena jednat,“ líčí.

Druhým modelem je „vzdálená platforma“, vycházející z principu nepilotovaných létajících prostředků, jako je například Predator UAV. „Nemají specifický cíl v zóně zásahu a jejich arzenál se aktivuje teprve při identifikaci pozemního terče,“ říká Roffová a dodává: „V realitě jsou obě tyto technologie zatím deponovány v malých počtech, ale ve složce výrobních součástek a vývoje je jejich objem už dnes masivní.“

Nejde je nevyvíjet

„Tyto novodobé zbraňové systémy mají Spojeným státům zajistit vytrvalou převahu na budoucích bojištích,“ tvrdí tajemník amerického ministerstva obrany Robert O. Work. „Nejde je nevyvíjet. Naši tradiční rivalové Rusko a Čína i naši tradiční spojenci Británie a Izrael na nich už pracují. V případě Číny a Ruska víme tolik, že jejich počítačové sítě jsou už tak dobré, jako naše. Vidí tak daleko, jako my, jsou schopni poslat naváděnou střelu tak daleko, jako my. A my si potřebujeme být jisti, že pořád budeme moci vítězit tak snadno, jako v minulosti,“ nezastírá americké odhodlání.

Americké ministerstvo obrany připouští, že vyvíjí autonomní stíhače, které by byly schopny bojovat po boku lidmi řízených letadel. Ve hře je i „vytrvalá“ raketa, která by dokázala až jedenáct dní kroužit a vyčkávat v určeném prostoru, než by zaútočila. Určena má být proti hladinovým plavidlům protivníka a „rozhodovat o volbě vhodného cíle“ se už má sama.

V roce 2016 ve svém rozpočtu Pentagon vyčlenil relativně malou sumu 18 miliard dolarů, která má v horizontu tří následujících let jít na výzkum autonomních vojenských systémů. Jak ale říká s jistou nadsázkou Work: „Trendem současnosti není zatím rozhodně vyrábět něco jako terminátora, ale spíše podpůrné prostředky boje a průzkumu, doprovázející lidské vojáky. Podstatné pro nás je, aby byl součástí rozhodovacího procesu vždy člověk.“

Mít je znamená použít je, tvrdí kritici

Kritici vývoje autonomních zbraňových systémů ale varují, že každý krok směrem k aplikaci pootevírá Pandořinu skříňku. Peter Singer, technický poradce Washingtonu pro „války budoucnosti“, uvádí zajímavý příklad. „Když během první světové války začaly německé ponorky napadat civilní lodě, odsoudily to Spojené státy jako do krajnosti nehumánní krok. Byla to i jedna z příčin, proč jsme se do války jako národ zapojili. A po válce jsme se zasadili o to, aby byla podobná praxe postavena mimo zákon. A dál? Když 7. prosince roku 1941 bez předchozího vyhlášení války zaútočili Japonci na naši flotilu v Pearl Harboru, trvalo nám šest hodin, než jsme proti nim sami schválili neomezenou ponorkovou válku. Všechno je relativní.“

Zdůrazňuje, že nevěří, že by Spojené státy nebo kterákoliv jiná země, která by v případné příští válce prohrávala, nepoužila všechny dostupné prostředky, které dnes možná považuje za neetické či nemorální. „Problém s autonomními zbraňovými systémy je ten, že když je už jednou máte, budete je prostě chtít použít. A pokud by nás plně autonomní stroje na zabíjení měly přiblížit vítězství, využijeme jich a morální výčitky ztratíme podobně jako u Pearl Harboru za méně než šest hodin,“ soudí.

Autoři:
  • Nejčtenější

Ženský orgasmus se projevuje jinak, než si většina myslí. Sténáním jen zřídka

Premium Mužské vyvrcholení lze definovat snáze, protože ho doprovází ejakulace. Ženský orgasmus je větší oříšek. Aktuální...

Smrt jménem Pankrác. Vězni se na oprátce zmítali i deset minut, říká spisovatel

Premium V proslulé sekyrárně ve věznici Pankrác nechali za druhé světové války nacisté popravit gilotinou více než tisíc lidí....

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

VIDEO: 3 182 kliky za hodinu zlomil rekord. Navzdory syndromu bolesti

Bolest je slabost, která opouští tělo. Právě toto přesvědčení v sobě posiluje. Potřebuje ho, od dvanácti let, kdy si...

Baví svět zbytečnými vynálezy. Kritizuje konzum, ale platí ho i korporace

Objevit problém, který vlastně nikoho nepálí. A vymyslet k němu řešení tak bláznivé, které bývá problémem o sobě. To je...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Kávou ke zdraví. Dva tři šálky denně souvisejí s nižším rizikem úmrtí

Rozsáhlá studie zahrnovala přes 170 tisíc lidí, monitorovala je v průměru po sedm let. Zjistila, že uměření každodenní...

Nadané děti mají společné rysy. Rodiče to někdy nepoznají, říká expert Mensy

Premium Pouhá dvě promile populace – tedy jenom jeden člověk z pěti set – má IQ vyšší než 150. Zhruba každý padesátý má přes...

Cesta do Chorvatska 2022: Jak projet rozkopané Slovinsko a tankovat v Maďarsku

Premium Dobrá zpráva pro dovolenkáře mířící autem na Jadran. Cesta byla letos hladká, na nejrychlejší trase přes Vídeň, Graz...

Ekonomie hlouposti: počet hlupáků „v oběhu“ je vyšší, než si myslíte

Premium Hloupí lidé patří ekonomicky k nejnebezpečnějším. Za hloupé je třeba považovat ty, kteří škodí druhým i sobě samým. V...

  • Další z rubriky

Ikonické jégrovky vyrazily do Evropy ze severu Čech

Nosí je dodnes vojáci či sportovci, málokdo však ví, že tvůrce slavných „jégrovek“ pocházel ze severu Čech. Od smrti...

VIDEO: Nové tetování přineslo Williamovi rozhřešení od nerozvážnosti

Nechat si na nohu vytetovat vlastní portrét je samo o sobě dost obskurním námětem, ale William to dříve vnímal jinak....

Smrt systému, sláva svobodě. Líbivé myšlenky anarchismu lákaly napříč dějinami

Premium Hrůza, je to anarchista! Nebo ještě lépe – vládne nám tady anarchie! Podobné výkřiky zaznívají velmi často. Dobře, a ví...

Kávou ke zdraví. Dva tři šálky denně souvisejí s nižším rizikem úmrtí

Rozsáhlá studie zahrnovala přes 170 tisíc lidí, monitorovala je v průměru po sedm let. Zjistila, že uměření každodenní...

Aerolinky ruší tisíce prázdninových letů. Pilot vysvětluje proč

Tisíce zrušených letů, mnohahodinové fronty, vyčerpaný personál ostřelovaný výpověďmi. Současné letectví je v těžké...

Kladivo na ruské dělostřelectvo. HIMARS se zapojil do bojů

Americký dělostřelecký systém HIMARS, po kterém Ukrajina volá už několik týdnů, byl konečně dopraven k bojujícím...

Někde bědují nad benzinem, jinde už hladoví. Zdražování pociťují lidé všude

To, že je všechno dražší a že pravděpodobně bude ještě o něco hůř, se rozhodně netýká jen Česka. Britský deník The...

Tradiční hluboká orba vadí Bruselu. Čeští farmáři mohou přijít o peníze

Premium Jarní ječmen, který se používá v pivovarnictví a sladařství, ztratí kvalitu. Česká pole už nebudou jako dřív a farmáře...

Proč dřív lidé vypadali na fotce starší. Rychleji se stárnulo, nebo je to klam?

Premium Tak schválně, udělejte si čas a zalistujte rodinnými alby. Podívejte se na svoje rodiče, prarodiče, praprarodiče. A...