Jaké jsou teď hlavní trendy ve využívání umělé inteligence ve vojenských operacích? Předpokládám, že se to týká zpravodajství, analýzy a rychlejšího rozhodování.
AI ze své podstaty zpracovává data rychleji než lidé. Podívejme se na studenty na univerzitě, kde učím. Třicet let budujeme internet s nepředstavitelným množstvím dat. A studenti, pokud to berou vážně, mají problém přečíst byť jen část z těchto informací, zpracovat je a pak použít do svých prací. Dnes se mohou spolehnout na ChatGPT a další aplikace, které to udělají za ně. Stejné je to s vojenskými aplikacemi.
Již tři desetiletí používáme ke sběru dat komunikační senzory a počítače. Ukazuje se však, že tato data nejsou jen přínosem, ale do značné míry také překážkou rychlého a přesného rozhodování, protože jejich zpracování zabere lidem čas. Zahlceni daty dělají lidé také chyby. Skutečný úkol, který nás čeká, je, zda dokážeme udělat něco lepšího, než jen zrychlit naše staré metody a postupy. Zda dokážeme skutečně upgradovat naše návyky.
Díky zpracování umělou inteligencí vidím nejen skrze zdi, ale mohu také automatizovanou analýzou dosavadních střetů v boji předvídat, co asi protivník udělá, odkud může přijít útok, jak silný. Takže najednou získávám schopnost předvídat, což je skutečně superschopnost.
Jak to myslíte, vylepšit staré zvyky?
Senzory na nejrůznějších vzdušných prostředcích hromadily zpravodajské informace a kybernetické operace přinášely další. A hlavním využitím těchto informací byla příprava leteckých úderů. K tomu jste museli mít velké místnosti plné lidí, kteří věnovali svůj čas zpracování dat a přípravě cílů pro letectvo.
Nyní se zaměřujeme hlavně na to, aby byl celý proces mnohem efektivnější. To znamená, že máme zařízení s umělou inteligencí, které těmto lidem pomáhají a to takovým způsobem, že jsou schopni spolehlivě označit tisíce cílů týdně. Stroj opravdu pomáhá našim lidem analyzovat všechny malé střípky a skládá z nich celkový obraz a v tomto případě označuje cíle. Stovky nových cílů denně, mnoho z nich v reálném čase, což nikdy předtím nebylo možné.
Eran OrtalBrigádní generál izraelské armády v záloze Je autorem knihy „The War Before“, která zkoumá procesy změn v Izraelských obranných silách (IDF), působí jako lektor na Reichmanově univerzitě, kde přednáší o vývoji izraelské národní bezpečnostní doktríny. Dlouhodobě se věnuje roli a potenciálu umělé inteligence v kontextu vojenských konfliktů. Je držitelem magisterského titulu v oboru bezpečnostních studií na univerzitě v Tel Avivu a absolventem Národní bezpečnostní školy a vyšších velitelských kurzů IDF. V letech 2019-2023 působil jako velitel Centra interdisciplinárních vojenských studií Dado zaměřeného na operační úroveň válečných aktivit. Zastával různé vedoucí funkce v rámci Generálního štábu IDF v oblasti nasazení a výstavby sil. Mezi jeho odborné oblasti patří národní bezpečnost, vojenské myšlení a vojenské inovace. Působí jako člen poradního sboru technologické společnosti Axon Vision. |
Takže momentálně je umělá inteligence doménou pro potřeby vzdušných sil?
Bohužel. A myslím to kriticky, protože daleko důležitější využití AI vidím na taktické úrovni přímo na bojišti, na zemi. S využitím AI teď můžeme rapidně posílit i ty nejmenší jednotky, velitele čety, velitele bojového vozidla, aby na bojišti znovu získali iniciativu. To bylo v posledních desetiletích nemožné. S rozvojem umělé inteligence je to naopak.
Taktické velení bylo dosud přesyceno daty, které nedokázalo a ani nemohlo včas zpracovat. Takže se vojáci dostávali do nebezpečí, dostávali zásahy a umírali. A s příchodem přesně naváděné munice se schopnost přežití na bojišti ještě více zhoršila. Teď můžeme využít umělou inteligenci k obrovskému zlepšení situačního povědomí taktických jednotek, a tím i posunout schopnosti přežití na zcela jinou úroveň. Ale to se musí teprve prosadit, protože v tomto směru potenciál AI vlastně vůbec nevyužíváme.
Přeci jen většina lidí si umělou inteligenci spojuje výhradně s velkými jazykovými modely a to ještě proto, že s nimi komunikuje při jednodušším získávání informací. Předpokládám, že to není ten potenciál, o kterém mluvíte?
Jazyk je velká věc. Řekněme, že nyní jsme schopni nashromáždit nesmírné množství dat o nepříteli, který shodou okolností třeba mluví persky. Ano, je to velmi důležité, avšak je to známé úzké hrdlo láhve každé zpravodajské organizace. My bychom se ale měli více zaměřit na taktickou úroveň vedení války, která byla v posledních desetiletích zanedbávána a degradována. Je to nedotčený modrý oceán. Obnovení taktické iniciativy by mohlo vše změnit.
Jak by tedy měla AI přispět ke zlepšení situačního povědomí přímo na bojišti? Analýzou dat z dronů a satelitů a rychlému doručení relevantních informací jednotlivým vojákům?
Pojďme si to představit jako několik vrstev. V té první si vezmete bojové vozidlo, transportér nebo tank. Mají 360° kamery, protože pěchota se může přiblížit k bojovému vozidlu a zaútočit na něj z libovolného směru – podobně jako parkovací kamery v autě. Ale v bojové realitě nemůže voják jen sedět před obrazovkou a neustále sledovat dění na šesti kamerách, aby zjistil, zda se k němu někdo nepřibližuje. To je první nejzákladnější vrstva.
Pokud jsou však tyto kamery propojené a mají nějaké funkce umělé inteligence, mohou vás samy upozornit, když zjistí cíl. To je druhá vrstva, která umožňuje lidem soustředit se pouze na to, co je potřeba. Ale pojďme ještě dál. Nyní mohu do systému integrovat další senzory, takže nepůjde jen o kamery na bojovém vozidle. Na obloze mám dva drony, takže vidím i mimo přirozený zorný úhel a mohu detekovat hrozby, aniž bych musel vyčlenit personál jen na sledování obrazovek, protože umělá inteligence může drony autonomně ovládat.
Rusko otevřelo Pandořinu skříňku. Skynet z Terminátora je jen otázkou času |
Sama je pilotovat v určité oblasti a varovat?
Ano. Tím jsme si díky AI podmanili nepřímou viditelnost. Pojďme na další úroveň. Řekněme, že v oblasti nejsou jen dva moje drony, které mohou sdílet data. Do mého bojového vozidla se takto mohou sbíhat už analyzovaná data a varování ze všech systémů mých jednotek v oblasti. Takže mám k dispozici ucelený pohled na bojiště, ať už je to vesnice, les nebo horský terén. Mám pohled na bojiště z více úhlů a vlastně rentgenové oči. Rázem vidím za zdi, kopce nebo lesy. To je úžasné, protože jsem nepřítele zbavil jeho úkrytů. To je třetí úroveň a pojďme na čtvrtou.
Nějaká další superschopnost?
Představme si, že už dva dny bojujeme na nějakém místě. Za těch 48 hodin jsme nashromáždil data z vlastních senzorů, ale máme také data od dalších jednotek. Díky zpracování umělou inteligencí vidím nejen skrze zdi, ale mohu také automatizovanou analýzou dosavadních střetů v boji předvídat, co asi protivník udělá, odkud může přijít útok, jak silný. Takže najednou získávám schopnost předvídat, což je skutečně superschopnost.
Vidět do budoucnosti?
Přesně tak. Stroj za mě rychle analyzuje a vyhodnocuje vzorce chování nepřítele na bojišti. A nejen, že vidím do budoucnosti, ale mohu velmi efektivně zacílit své senzory i samotné síly podle těchto predikcí. Přesně tam, kde to bude zapotřebí. A celý tento mechanismus se tím neustále vylepšuje a nabaluje s efektem sněhové koule.
⭕️NOW: The IDF is striking Hezbollah’s “Radwan Force” terror targets in the Beqaa region of Lebanon.
IAF fighter jets, guided by the Intelligence Directorate and Northern Command, are targeting military compounds used to train Hezbollah terrorists for attacks against Israeli https://t.co/phn8hC8vHx
Jaké jsou hlavní technologické výzvy při vývoji a takovém nasazení umělé inteligence v extrémních podmínkách vojenských konfliktů?
Inženýři a vědci naprogramují stroj, vyřeší algoritmy. Jakmile necháte zařízení pracovat, je to „černá skříňka“. Velitel jednotky opravdu nemůže vědět, na čem je založena analýza a doporučení počítače.
Takže nakonec půjde vždy o to, jak do celého systému integrovat lidskou analýzu, zkušenost, cit, osobní zapojení. Schopnost cítit bojiště, propojit ho s vědou a učinit správná rozhodnutí. Klíčem k úspěchu proto bude jedna důležitá věc. Aby měl člověk – velitel vždy to konečné poslední slovo.
Stroj bude předvídat, analyzovat, doporučovat, kam správně rozmístit senzory a střelce. Ale o skutečném rozmístění a akci jednotky, o zasažení cílů musí rozhodovat člověk. Myslím, že je to etické i praktické. Pokud se budeme řídit tímto pravidlem, bude spojení strojů a člověka v pořádku.
A nemyslíte, že vrcholem vývoje pak bude vznik obecné umělé inteligence, která má za cíl replikovat kognitivní schopnosti člověka a která by mohla přímo nahradit člověka v bojových misích? Říká se, že je to otázka příštích pěti až deseti let.
Právě jsme popsali stroj, který nahradí mnoho lidských funkcí. Na konci toho „filmu“ ale možná bude bezpilotní prostředek, ten se setká s jiným bezpilotním prostředkem a budou se snažit spolu bojovat. Který z nich bude mít výhodu a šanci zničit ten druhý? Oba budou dělat v podstatě to samé. Budou se navzájem předvídat, ale nakonec bude mít výhodu ten, za kterým bude stát převaha v podobě člověka – vojáka.
Opravdu si proto nemyslím, že lidé v dohledné době z bojiště zmizí. Budou nadmíru potřební. Budou obrovsky posílení roboty, umělou inteligencí, senzory, výpočetní technikou a tak dále. Síla se tím znásobí, ale člověka nenahradí.
Ve vojenství to bude revoluce nebo evoluce?
AI je velká věc a je součástí čtvrté průmyslové revoluce. Můžeme znovu přesunout těžiště bojů z vyšších stupňů velení, z letectva a centrálních agentur k taktickým jednotkám a znovu získat schopnost manévrovat a iniciativu na bojišti. Taktické jednotky jsou nyní schopné dělat věci, které byly dosud výsadou jen nejvyšších zpravodajských a výzvědných stupňů s proudovými špionážními letouny, drahými bezpilotními stroji a velkými sály plnými analytiků.
Nezlobte se, ale musím se zeptat. Filmový „Terminátor“ je prostě kultovní. Existuje reálné riziko, že by vojenské aplikace umělé inteligence mohly dojít k sebeuvědomění a obrátit se proti lidem, pokud by dospěly k závěru, že jsou zkrátka nepotřební?
Nejde o to, jestli si umělá inteligence uvědomí sama sebe a jak moc je to riskantní. To nechám na filozofech a vědcích. Jako odborník na obranu myslím, že s ohledem na naši vlastní bezpečnost si nemůžeme dovolit z tohoto závodu vypadnout. Nemůžeme zaostat, protože se příležitosti chopí potenciální protivník.
Přeci jen, předpokládáte, že bude k zamezení takového scénáře existovat nějaký „hlavní vypínač“?
Pokud se budeme držet pravidla, že konečné rozhodnutí vždy zůstane na lidech, neměl bych obavy. Je těžké zjistit, zejména v boji, jak se „černá skříňka“ rozhodla a zda neoznačila vašeho spolubojovníka v jiném vozidle za nepřítele. Takže dokud si to budeme hlídat, nemyslím si, že by nám hrozilo nebezpečí.
NATO nasazuje umělou inteligenci pro vojenské operace. Zrychlí rozhodování |
Dobře, ale dokonce i Sam Altman několikrát naznačoval, že to, co se děje v laboratořích při vývoji obecné umělé inteligence, působí někdy až trochu děsivě.
Víte co? Jsme přece v Praze, ne?
To ano.
Pražská legenda o Golemovi říká, že ho nakonec zneškodnil jeho samotný stvořitel – rabín MaHaRaL (pozn. autora: hebrejský akronym jména rabbiho Löva – Morenu Ha-Rav Liva). A myslím, že umělá inteligence bude fungovat stejně. Vypínač tady bude vždy. Udržujeme si umění válčit a udržujeme si znalosti, jak věci řídit, když se něco pokazí. Víte, umělá inteligence je celkový systém, který je ale třeba závislý na mobilní komunikaci. Pokud se nemůže spojit se senzory, nezískává data. Nejde jen o algoritmus, který to řídí. Takže nakonec lidé budou schopni systém vypnout, pokud se ani opakovanými pokusy nevypne sám.
Co je největší etická výzva při nasazení autonomní síly umělé inteligence do zbraňových systémů nebo bezpilotních systémů?
Asimov (pozn. autora: Isaac Asimov, proslulý spisovatel sci-fi a a autor tří základních zákonů robotiky) měl pro roboty zlaté pravidlo, že nikdy nepovstanou proti lidem. Takže konečné rozhodnutí – stisk spouště, by měl zůstat lidským rozhodnutím. Z etických i praktických důvodů.
Existuje nějaké povědomí o tom, jak potenciální protivníci nebo strategičtí soupeři Západu, jako je Čína nebo Írán, pokročili ve využívání umělé inteligence a na co se zaměřují?
Skutečně věřím, že západní společnost má špičkové technologie. Číňané jsou velmi pokročilí, ale nakonec přece jenom napodobují Západ. Číňané by nakonec mohli mít podobně vyspělou umělou inteligenci jako Západ, která bude zvyšovat schopnost taktického velitele činit rychlá a informovaná rozhodnutí. Zde je však hluboký rozdíl mezi demokraciemi a nedemokratickými režimy.
Demokracie může svěřit možnost rozhodování na taktickou úroveň. Nedemokratické režimy to nedokážou. I když budou mít špičkovou AI, nebudou mít kulturu, která by to správně využila. Opravdu věřím, že tento závod hraje pro západní společnosti, pokud budeme schopni skutečně posílit naše taktické velitele a umožníme jim manévrovací svobodu a velení v misích bez byrokracie, která se za posledních padesát let, zejména v NATO, rozrostla do obrovských rozměrů. Možná si velení NATO dá na čas, ale já skutečně doufám, že velitelé praporů, velitelé čet, velitelé vozidel budou mít možnost skutečně využít nový potenciál.
Stíhačku v bojových soubojích ovládala AI, hlásí průlom švédský výrobce gripenů |
Například v České republice pracuje společnost Accent Vision, kde působíte jako poradce, na ochranném systému pro novou generaci obrněného vozidla Pandur 8X8 EVO. Jaký průlom představuje pro ochranu posádky na bojišti?
U bojového vozidla Pandur právě teď mluvíme o první a druhé vrstvě: o 360° automatizovaném povědomí o situaci a upozornění posádky. Potenciál je ale mnohem větší s možným zapojením dalších i vzdálených leteckých senzorů a pak „odlupování“ hor, stromů a domů z mapy bojiště a odhalování nepřítele. Každým senzorem přidaným do systému znásobíte své schopnosti. Nezáleží na tom, jestli máte starší systémy a nové, které zrovna vycházejí z výrobní linky, všechny je můžete vylepšit.
A souběžně postupně vytvářet jeden ucelený a propojený systém?
Přesně tak. Až dosud jsme se honili za možností, aby každý mohl komunikovat s každým a zároveň sbírat data. Před dvaceti lety se tomu říkalo vize „many to many“. Nyní se díky umělé inteligenci blížíme k bodu, kdy budeme moci fungovat jako jeden organický celek – „many as one“. Velké množství vozidel rozptýlených po bojišti a stovky leteckých prostředků nad ním mohou fungovat jako soudržný celek, který má oči a uši všude.
Tato vize má však revoluční aspekt i z hlediska obranných projektů. Vzhledem k tomu, že jsme dozráli z revoluce ve vojenství z 90. let a uvědomujeme si, že velká část tohoto světa je spíše definovaná softwarově než orientovaná na platformy, můžeme se efektivněji posunout vpřed. Klíčem je postupovat obezřetně. Integrovat jeden systém a ten pak integrovat se sousedním. Spíše drobnými krůčky a rychlými vítězstvími než systémovými megaprojekty, které jsou složité a nabírají zpoždění.
