Premium

Získejte všechny články
jen za 89 Kč/měsíc

Umělá inteligence by mohla manipulovat média, řekl kybernetik v Rozstřelu

  9:34
Jak daleko jsme od vytvoření skutečné umělé inteligence se schopnostmi blízké lidskému mozku? Nejen o těchto otázkách se dozvíte více ve záznamu z Rozstřelu, jeho hosty byly odborníci na umělou inteligenci Jan Romportl a Marek Rosa.

Technologie strojového učení a umělé inteligence jsou na vzestupu a setkáváme se s nimi prakticky všude. Kromě vývoje úzce zaměřených aplikací, jako je například analýza obrazu či jiných velkých dat, však po celém světě vznikají výzkumná centra, která se pokouší vytvořit tzv. obecnou umělou inteligenci (artificial general intelligence – AGI). Ta má podle vizionářů dosáhnout lidské úrovně ve schopnosti stanovovat si vlastní cíle, samostatně se rozhodovat a způsobit tak „technologickou singularitu“ – zásadní proměnu fungování lidské společnosti.

Závod o dosažení AGI se někdy přirovnává ke stavu před vytvořením první atomové bomby – nikdo neví, zda, kdy a jak se podaří umělou inteligenci na takové úrovni vytvořit, v každém případě ta představa vyvolává obavy. Tyto a další otázky jsou tématem právě probíhající mezinárodní konference Human-Level AI (HLAI), která se se koná od 22. až 25. srpna 2018 v Praze a vyvrcholí sobotním programem pro širší odbornou veřejnost v Divadle Hybernia. Hosty Rozstřelu byli dva odborníci, kteří na konferenci vystoupí, Jan Romportl a Marek Rosa.

Univerzální umělá inteligence tu ještě není, ale...

V tuto chvíli není jasné, jak daleko máme k vytvoření umělé inteligence, říká Marek Rosa. Podle něj jde o dvě různé otázky: vytvoření jednotlivých komponentů lidské inteligence, a pak naši schopnost složit je dohromady do inteligence se schopnostmi podobnými člověku. Je ovšem spíše optimistou a podle něj bychom snad mohli uspět v horizontu několika mála desetiletí.

Jan Romportl se všech časových odhadů vyvaroval. Důležité podle něj je si vždy uvědomit, že pod názvem umělá inteligence se skrývají velmi rozdílné věci. Takzvané „úzce zaměřená“ umělá inteligence, které se specializují na jednu určitou činnost, už v některých oblastech dosahují lepších výsledků než člověk. „Žádný člověk nedokáže rozpoznat milion obličejů za minutu,“ řekl Romportl. Všeobecná umělá inteligence je zcela jinou otázkou, ale je těžké spekulovat, kdy se může objevit. „Já osobně doufám, že to nebude dříve než za dvacet let,“ říká Romportl.

Důvod jeho obav je prostý: „Inteligence a hodnotový systém jsou dvě zcela nezávislé věci,“ říká Romportl. Nevíme totiž, jak se takový systém bude chovat, připomíná. Na začátku by se asi měla tedy umělá inteligence „růst“ v izolovaném prostředí, odstřiženém od internetu. Samozřejmě bude muset mít přístup k novým informacím, aby mohla dále růst a zdokonalovat se. „My totiž netušíme, jaký bude takový systém mít cíle,“ říká Jan Romportl.

Marek Rosa doufá, že se podaří hodnotový systém případné umělé inteligence nasměrovat určitým způsobem, abychom se nedočkali příliš nepříjemného překvapení. Ani dnes ovšem nedokážeme přesně předvídat chování složitých algoritmů, a tak bude nepochybně nutné ponechat jí ve vývoji dostatek svobodné vůle, a dbát při vývoji jisté opatrnosti.

Jan Romportl se domnívá, že podobné „nasměrování“ je přímo nezbytné. „Nám nezbývá než vytvořit dobrou umělou inteligenci. Domnívám se totiž, že první umělá inteligence nejspíše rychle přeroste v superinteligenci, a pokud bychom tedy vytvořili zlou umělou inteligenci, bude to jedna z posledních věcí, kterou lidstvo udělá.“

Umělá inteligence je pro lidstvo bezprecedentní výzvou

A jak nám může umělá inteligence hypoteticky mohla uškodit? Jednou možností je podle hostů v Rozstřelu například, že dospěje k názoru, že může uniknout do skutečného světa a třeba i v zájmu obecného dobra manipulovat s lidmi a světem. „Dokážu si představit, že taková superinteligence by dokázala nejen „hacknout“ celou řadu zařízení, ale třeba také z pozadí manipulovat médií,“ říká Jan Romportl.

Jan Romportl je filozof a datový vědec, který pracuje jako konzultant pro společnost O2 Czech Republic a pořádá v Praze pravidelná setkání mezinárodní skupiny AI Safety Meetup s cílem upozornit na rizika vývoje umělé inteligence. „AGI nebude omezená biologickou daností lidského těla a nemůžeme garantovat, že bude k lidem přátelská. Přesto bychom toto riziko měli podstoupit, protože je to pro lidstvo možná jediný způsob, jak přežít.“

„Obecná umělá inteligence je pro lidstvo naprosto bezprecedentní výzvou. Investice do jejího vývoje by měla být naší prioritou a vlastně i morální povinností,“ doplňuje Marek Rosa, hlavní iniciátor pražské konference HLAI a ředitel společnosti GoodAI, který do vývoje tohoto „umělého mozku“ vkládá nemalé množství úsilí a prostředků.

Celý Záznam Rozstřelu s Janem Romportlem a Markem Rosou:

Oprava: Článek obsahoval překlepy ve jménech. Za chyby se omlouváme.

Autor:
  • Nejčtenější

Evropa se vrátila do vesmíru. Nová raketa Ariane 6 úspěšně dokončila první let

Z kosmodromu Korou ve Francouzské Guyaně odstartovala nová evropská raketa Ariane 6. Loni se do vesmíru vydala na svou poslední cestu raketa Ariane 5. A protože je druhá a menší evropská raketa...

9. července 2024,  aktualizováno  10.7 6:25

Důmyslné zbraně příkazového řádku Windows

Někomu tento způsob ovládání může přijít archaický, jiný na něj nedá dopustit. Řeč je o ovládání Windows prostřednictvím příkazů. Příkazový řádek je nedílnou součástí tohoto operačního systému od...

12. července 2024

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Dynamitové beranidlo nahánělo strach – hlavně posádce. Zrod prasečích člunů

Třebaže se počátky ponorkové zbraně datují do raného novověku, teprve průmyslová revoluce z přelomu 19. a 20. století dodala lidstvu technologie, díky nimž se ponorné čluny staly opravdovými...

7. července 2024

Před 100 lety vybojovalo Československo první zlatou olympijskou medaili

V pořadí VIII. olympijské hry se konaly od 5. do 27. července 1924 ve francouzské metropoli, nicméně již 4. května 1924 začaly některé soutěže na hrách. Zúčastnilo se jich 3089 sportovců (z toho 135...

13. července 2024

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

KVÍZ: Poznáte vesmírné objekty podle obrázků?

Existuje řada krásných záběrů nebo jinak unikátních objektů v blízkém i vzdálenějším vesmíru, které pořídily dalekohledy umístěné ve vesmíru nebo sondy, které zkoumají Sluneční soustavu. Některé z...

11. července 2024

Ilustrátora Wintera věznili nacisté. Kreslil erotické i historické vtipy

Malíř, karikaturista, ilustrátor a humorista Jiří Winter-Neprakta, který se narodil před 100 lety, byl rekordmanem v počtu kreslených vtipů, zajímal se však například i o antropologii a tajemno všeho...

14. července 2024

Prasečí čluny provázely podivuhodné havárie. Zabíjel benzin, vodík i chlor

V předchozích dílech seriálu jsme se seznámili s ranými americkými ponornými čluny – tzv. pigboaty. Tentokrát se podíváme na jejich službu, kterou lemovalo množství nehod, havárií a raritních...

14. července 2024

SpaceX dostala dočasnou stopku, raketa Falcon 9 špatně vynesla satelity

Americký Federální úřad pro letectví (FAA) pozastavil starty raket Falcon 9 od soukromé společnosti SpaceX. Stalo se to poté, co jedna z těchto raket neúspěšně umístila satelity na oběžnou dráhu....

13. července 2024  11:38

Před 100 lety vybojovalo Československo první zlatou olympijskou medaili

V pořadí VIII. olympijské hry se konaly od 5. do 27. července 1924 ve francouzské metropoli, nicméně již 4. května 1924 začaly některé soutěže na hrách. Zúčastnilo se jich 3089 sportovců (z toho 135...

13. července 2024

Lela Vémola je na starých fotkách k nepoznání. Takto vypadala před plastikami

Kamarádka Lely Ceterové, Petra Batthyányová sdílela na sociálních sítích osmnáct let starou fotografii, na které je se...

Třískovi jsem šest let platil letenky a hotel, vzpomíná Jan Hrušínský

Premium Táta Rudolf ho uměl pochválit, ale také pokárat. Jednou v šatně mu například vmetl, že mu celé představení zkazil svojí...

Zemřel dětský kamarád mimozemšťana Alfa. Herec usnul v rozpáleném autě

Zemřel herec Benji Gregory. Televizním divákům je známý jako Brian z populárního sitcomu 90. let Alf. Gregorymu bylo 46...

Jeden z nejhorších filmů vůbec slušně vydělává i po 30 letech od natočení

První filmová adaptace kultovní bojovky Street Fighter z roku 1994 se umísťuje v žebříčcích nejhorších snímků všech...

Oběti žrali vepři. Hororové zlo páchal sériový vrah ve svém Prasečím paláci

Injekce, motorové pily, sexuální orgie, motorkáři. A hladoví vepři. Scény, při nichž vyhasínaly životy vancouverských...