Největší problém umělé inteligence: nelze zjistit, „proč“ se rozhodla

Umělá inteligence a strojové učení jsou budoucností průmyslu. Přináší však s sebou problémy, které zatím v oblasti počítačových systémů nebylo potřeba řešit.
Technický ředitel společnosti Fujitsu, Dr. Joseph Reger

Technický ředitel společnosti Fujitsu, Dr. Joseph Reger | foto: Fujitsu

Umělá inteligence a strojové učení byly vždy tak trochu sci-fi. Zejména proto, že jsme neměli k dispozici dostatečně efektivní a výkonné procesory, které by složité procesy umělých neuronových sítí dokázaly v reálném čase zpracovávat.

To se nyní mění. Vznikají procesory i celé výpočetní jednotky optimalizované přímo pro strojové učení a umělou inteligenci. Kupříkladu Fujitsu letos představilo procesor DLU (Deep Learning Unit), Nvidia pak loni „stolní superpočítač“ DGX-1 a letos  „system on chip“ Xavier, které mají na tyto úlohy dostatek výkonu a zároveň rozumně nízkou spotřebu energie.

Dostáváme se tak do momentu, kdy největším problémem technologie nebude samotná technika, ale problémy spíše humanitního charakteru. O tom, co se nyní kolem umělé inteligence děje, jsme si krátce povídali s doktorem Josephem Regerem, technickým ředitelem společnosti Fujitsu.

Zatímco dříve se v souvislosti s umělou inteligenci zpravidla mluvilo o překážkách v podobě nedostatku výpočetního výkonu nebo operační paměti, nyní se hovoří spíše o překážkách etického rázu. Můžete nám přiblížit, v čem spočívají?
S umělou inteligencí jsme přesně v té situaci, kdy lze velice snadno definovat problém a zároveň je velmi obtížné přijít s jeho řešením. Jeden z těžko řešitelných problémů se týká strojového učení, což je podstatná součást systémů umělé inteligence.

Problém je, že nikdy nevíte, na základě čeho se systém něco naučil, a na čem jsou tedy jeho rozhodnutí založena. Celá ta matematika okolo je taková, že nikdo nemůže udělat forenzní rozbor - systém nelze otevřít, prohlédnout si jej a zjistit, na základě čeho se v konkrétním případě rozhodl.

Systém umělé inteligence je vlastně umělá neuronová síť, je to vlastně hrubý model fungování našeho mozku. Můžeme si ji představit jako velkou množinu mozkových buněk a obří množinu jejich vzájemných propojení, tedy synapsí.

Čtěte více

Výsledkem učení je obrovské množství spojení „neuronů“ s různou intenzitou a jsou to jen čísla vyjadřující, co se stane, když neuron dostane informaci, jak o ní informuje další neurony, kdy jde do aktivovaného stavu a jak silně ovlivní další neurony. Prostě hromada čísel. Nezjistíte, jaký vzorec, jakou informaci (vzruch) nesl a obsahoval. Tím je forenzní rozbor nemožný.

Pokud máme software, který není založen na umělé inteligenci a strojovém učení, můžete udělat audit, který zjistí, zda software nemá chyby - ještě předtím, než problém vznikne, stačí jen podezření. A ten zjistí, proč se software v daných situacích chová tak či tak. Se strojovým učením toto nejde, protože to, proč a jak se chová, není naprogramované. Naprogramované je to, jak se učí a dává výsledky. Audit by tak certifikoval kód pro učení, nikoli pro rozhodování - ten není naprogramován, ale naučen. A mechanismy strojového učení jsou známé, tam se při auditu žádné překvapení neobjeví.

A to je velký současný problém lidstva. Budeme provozovat systémy, případně dokonce kritické systémy tak, že je lidé nebudou moci kontrolovat? A pokud ano, bude nutné vždy velmi jasně stanovit, co je ještě akceptovatelné chování takového systému.

Nejspíše bude nutné najít konkrétní problémové oblasti a dohodnout se, co akceptovatelné je a co není, což bude velmi složité, i s ohledem na různé kulturní a historické odlišnosti různých zemí. Je potřeba se dohodnout, která pravidla a které konvence jsou porušitelné a které ne.

Už byl někdy v reálně nasazeném systému s umělou inteligencí takto vzniklý problém odhalen?
Ano a mohu vám dát reálný příklad. Finanční institutce do testovacího provozu nasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. No a tento systém začal postupně některé klienty prokazatelně diskriminovat - na základě pohlaví, náboženství a rasy.

Čtěte více

No a teď co s tím. Přijmeme takové chování s tím, že holt tyto parametry nějaký vliv na kreditní skóre mají a tak to je? Nebo je to neakceptovatené, protože to odporuje principům společnosti, případě je to třeba protizákonné nebo dokonce protiústavní? Co uděláte?

Máte možnost proti tomu protestovat, ale nemáte možnost zjistit, proč se systém takto chová. Kdo je zodpovědný? Normálně to je tvůrce systému. Ale v tomto případě je zodpovědný kdo? U koho budete funkčnost systému reklamovat? Tvůrce se může snadno bránit: výsledek učení je závislý na datech a metadatech, která jste systému dodali, je to vaše věc. Poskytl někdo falešná data? A co když byla vstupní data během učení zkreslena (biased) třeba jen jejich nevhodným sběrem a výběrem?

Ve kterých oblastech bude umělá inteligence a strojové učení nejpřínosnější?
Těžko odpovědět, protože je spousta oblastí, do kterých se strojové učení a umělá inteligence teprve promítnou. U některých to bude nenápadné, ale u některých způsobí změnu převratnou. Lze však říci, že vše, co bude možné automatizovat pomocí umělé inteligence, pomocí umělé inteligence automatizováno bude. Mnoho uplatnění bude teprve objeveno a každého průmyslového odvětví se to dotkne. V každém odvětví se totiž hledá zvýšení efektivity a to přesně tyto technologie přinášejí.

A tady se můžeme dostat na úplně jinou úroveň etické otázky: množství pracovních míst, která díky těmto technologiím zaniknou, bude obrovské. A nepůjde přitom o běžný efekt, který byl u všech tří průmyslových revolucí. To je typická reakce mnohých politiků: „Když se podíváme zpátky do historie, tak každá průmyslová revoluce ve výsledku vytvořila více pracovních míst a příležitostí, než kolik v jejím důsledku zaniklo.“ A mají pravdu, protože začínají větu „když se ohlédneme zpět“. Když se podíváme zpět, to je to, co vidíme. Ale současná otázka je „když se podíváme dopředu, co nás čeká?“ A na to prostě neznáme odpověď. A je příliš jednoduché a příliš laciné říci, že „tohle se stalo, a proto se to stane vždy opět, stejným způsobem“. To opravdu jisté není.

Otázku, co nastane, řešit musíme, a to zejména v jakém rozsahu a jak rychle to nastane. Opravdu vznikne takové množství pracovních příležitostí, že to kompenzuje, nebo dokonce překoná příležitosti současné, jako tomu bylo v minulosti? Tím si opravdu nejsem jistý. Vývoj IT se zvyšuje exponenciálně, dokonce se již překonává Moorovo pravidlo, vše je rychlejší a efektivní. Je to bezprecedentní rychlost, a tak se tentokrát opravdu může stát, že zanikne více pracovních míst, než jich ve stejném čase dokážeme najít.

Musí tedy přijít společenská debata nad tím, co uděláme, když se opravdu nepodaří najít dostatek pracovních míst pro všechny. V mnoha zemích je to již realitou - práce je z mnoha důvodů nedostatek. Co uděláme, až to přijde?

Občas slyším komentář „tentorkát to ještě zvládneme“ a já odpovídám, že i přesto bychom tu debatu měli vést a připravit se na příště, protože příště bude za chvíli a bude dobře, když budeme připraveni. První průmyslová revoluce byla na začátku devatenáctého století - parní motory. Zhruba za sto let přišla druhá revoluce - elektrifikace. Pak po 50 letech přišlo numerické ovládání a průmyslová automatizace, po 25 letech přišel průmysl 4.0 a současná revoluce. Kdy bude další? Bude to za dvanáct let?

Jako IT firma jste za tyto budoucí jevy svým způsobem zodpovědní.  Vidíte již nějaké řešení?
Toho jsme si vědomi, technologické firmy jsou za tyto změny a následky zodpovědné. Ale to neznamená, že je mohou vyřešit. Chceme se však účastnit debaty a chceme v rámci svých možností přispět k řešení.

Ve Fujitsu jsme přesvědčeni, že technologie jsou silou dobra. Každá technologie může být a v minulosti často byla použita jako zbraň. Historie je plná příkladů „weaponizace“ všeho možného. Jakmile je něco efektivní, překvapivě dobré, revoluční, může to být proměněno ve zbraň. Jsme si vědomi, že dáváme lidem do ruky velmi silné technologie a jsme rádi, když jsou používané pro dobro. ICT společnost ale nemůže vyřešit případné následky sama, je to celospolečenská otázka vyžadující celospolečenskou debatu.

Čtěte více ...

Zejména je třeba naslouchat lidem, kteří technologie odmítají. Jsou v každé společnosti a chtějí, aby se s vývojem zpomalilo. Je potřeba jim dát prostor, ačkoli s nimi nesouhlasíme, protože technologie považujeme za prostředek k dobru, a proto chceme vyvíjet co nejrychleji. Ale obavy a argumenty oponentů musíme vyslechnout.

Již nyní se některé skupiny zabývají různými zvláštními nápady, jako je základní nepodmíněný příjem, který by měl být v jejich představách nastaven tak, aby i lidé, kteří nebudou mít zaměstnání, mohli dále slušně žít. Pokud bude exponenciálně růst i produktivita společnosti, tak si to společnost bude moci pravděpodobně dovolit, jen musíme nalézt cestu, jak to udělat správně. Rozdělovat bohatství inteligentními způsoby a snažit se tím zabývat. Stojí to za zkoušku. Ve Švýcarsku se o tom hlasovalo, podpora byla 30 procent, což je překvapivě mnoho.

Ale je to jen jedna možná cesta k cíli a já nejsem vůbec přesvědčený o tom, že je to ta správná. Ale je potřeba ji prozkoumat.

Nejčtenější

KVÍZ: Nechte starosti na zemi a vyzkoušejte si, jak znáte dopravní letadla

Z kvízů z oboru letectví je v čase letních dovolených určitě nejvhodnější ten, který se týká letadel dopravních. A aby nebyli v kvízu markantně zvýhodněni ti, kteří tento druh dopravy ve větší míře...

Místo, které se zaryje do vašich vzpomínek z dovolené. Rypadlo 1452

Pokud vás mrzí, že jste se nestihli podívat na obří rypadlo přezdívané Březenský drak v Březně na Chomutovsku, které pyrotechnici na začátku června odstřelili, máme tu pro vás tip na výlet. Nedaleko...

Ocelové šipky shazované z letadel vrátily válku zpět do středověku

Kromě zcela nových zbraní umožnila první světová válka i renesanci některých na pohled primitivních zbraní, které se ve výzbroji evropských armád neobjevovaly již celá staletí. Jednou z nich byla...

Padesát odstínů šedi řeckého letectva vypráví příběh modelu F-16D

Soutěž

Jaroslav Háječek se rozhodl dokončit rozdělaný model, který přišel v balíku z Bejrútu. Tento model letounu F-16D řeckého letectva byl výzvou. Jak popisuje jeho autor, otevřel celou škálu možností,...

Nevyzpytatelné jsou cesty k modelu F-4 Phantom II. Tento vznikl na USS Midway

Soutěž

O tom, že není jen fantom opery, ale i Phantom letadlové lodi USS Midway, nás přesvědčí příběh modelu modeláře Marka Andrejse. Slavný F-4 Phantom II se stal labutí písní jeho modelářské dílny. Více...

V Řecku je jediná zubačka, ale s nejmenším rozchodem na světě

Podívejme se na ozubnicovou železnici s nejmenším rozchodem na světě. Najdeme ji v Řecku, kde je zubačkou jedinou. Budována byla v předposlední dekádě století páry jako důležitý prvek regionální...

17. července 2025

Na prvním jaderném výbuchu se podílel i vědec s českými kořeny

Přesně před 80 lety se uskutečnil první test zbraně, která změnila svět. V rámci projektu Manhattan došlo k pokusnému výbuchu s krycím názvem Trinity, což byl první test jaderné bomby vůbec. Svůj...

16. července 2025  17:12

Nic divnějšího mít na uších nemůžete. S laděním zvuku pomohla slavná značka

První náhlavní sluchátka společnosti Nothing, nazvaná jednoduše „headphone 1“, si na hlavě s ničím jiným nespletete. A protože vznikla ve spolupráci s britskou značkou KEF, rozhodně jsme si jejich...

16. července 2025

Drony jako letectvo chudých. Jsou dostupné, hodí se teroristům a pašují i kečup

Premium

Malá, ale hlavně levná bezpilotní letadla často zvládnou podobnou práci jako specializované vojenské prostředky za miliony dolarů. Jejich zákaz je nemožný. Slouží totiž i k civilním účelům. Přeměna...

16. července 2025

Z kosmu se vrátila posádka složená z Američanky, Inda, Maďara a Poláka

Po více než dvou týdnech na palubě Mezinárodní vesmírné stanice (ISS) se vrátila na Zemi posádka soukromé mise Axiom 4, zkráceně Ax-4. Byl to opravdu mezinárodní posádka, protože se letu účastnili...

15. července 2025

Nevyzpytatelné jsou cesty k modelu F-4 Phantom II. Tento vznikl na USS Midway

Soutěž

O tom, že není jen fantom opery, ale i Phantom letadlové lodi USS Midway, nás přesvědčí příběh modelu modeláře Marka Andrejse. Slavný F-4 Phantom II se stal labutí písní jeho modelářské dílny. Více...

15. července 2025

Místo, které se zaryje do vašich vzpomínek z dovolené. Rypadlo 1452

Pokud vás mrzí, že jste se nestihli podívat na obří rypadlo přezdívané Březenský drak v Březně na Chomutovsku, které pyrotechnici na začátku června odstřelili, máme tu pro vás tip na výlet. Nedaleko...

15. července 2025

Před 30 lety se zrodila legenda. Formát MP3 změnil poslech hudby

Za vznikem formátu MP3 byl nápad přenosu hudby přes telefonní linky, který vznikl v hlavě Dietera Seitzera pozdějšího prvního ředitele organizace Fraunhofer IIS. Bylo to v době, kdy prosazovaly...

14. července 2025  10:15

Tabulky zvládnete i bez Microsoftu. Tady jsou ověřené možnosti zdarma

Microsoft Excel je nejrozšířenějším tabulkovým procesorem, se kterým se studenti učí už na běžných středních školách práci s daty. Jeho široká škála funkcí z něj činí volbu číslo jedna pro firmy i...

14. července 2025

Vědci donutili tělo k produkci buněk zabíjejících rakovinu. Léčba bude dostupnější

Premium

Laboratorní produkce buněk pro léčbu nádorových onemocnění označovanou jako CAR T-terapie je náročná, zdlouhavá a drahá. Proto ji nedostávají všichni, kterým by pomohla. Vědci nyní našli způsob, jak...

14. července 2025

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!

Přípravu na sebevražedný let ztvárňuje dioráma s letounem Mitsubishi G4M2

Soutěž

Dárek od kamarádů proměnil modelář Petr Záras v diorámu, ze které tak trochu mrazí. Jde totiž o přípravu na sebevražedný let kluzáku Yokosuka MXY-7 Ohka (třešňový květ) a japonského bombardéru...

13. července 2025

Česko pomůže s hledáním druhé Země. Mise využívá český hardware i software

Cílem kosmické mise PLATO je studovat Zemi podobné planety v relativně blízkých planetárních systémech. Výzkum se bude zaměřovat na planety v tzv. obyvatelné zóně, tedy v takové vzdálenosti od...

12. července 2025
Nastavte si velikost písma, podle vašich preferencí.