Pátek 20. května 2022, svátek má Zbyšek
  • schránka
  • Přihlásit Můj účet
  • Pátek 20. května 2022 Zbyšek

Umělá inteligence by mohla manipulovat média, řekl kybernetik v Rozstřelu

  9:34
Jak daleko jsme od vytvoření skutečné umělé inteligence se schopnostmi blízké lidskému mozku? Nejen o těchto otázkách se dozvíte více ve záznamu z Rozstřelu, jeho hosty byly odborníci na umělou inteligenci Jan Romportl a Marek Rosa.

Technologie strojového učení a umělé inteligence jsou na vzestupu a setkáváme se s nimi prakticky všude. Kromě vývoje úzce zaměřených aplikací, jako je například analýza obrazu či jiných velkých dat, však po celém světě vznikají výzkumná centra, která se pokouší vytvořit tzv. obecnou umělou inteligenci (artificial general intelligence – AGI). Ta má podle vizionářů dosáhnout lidské úrovně ve schopnosti stanovovat si vlastní cíle, samostatně se rozhodovat a způsobit tak „technologickou singularitu“ – zásadní proměnu fungování lidské společnosti.

Fotogalerie

Závod o dosažení AGI se někdy přirovnává ke stavu před vytvořením první atomové bomby – nikdo neví, zda, kdy a jak se podaří umělou inteligenci na takové úrovni vytvořit, v každém případě ta představa vyvolává obavy. Tyto a další otázky jsou tématem právě probíhající mezinárodní konference Human-Level AI (HLAI), která se se koná od 22. až 25. srpna 2018 v Praze a vyvrcholí sobotním programem pro širší odbornou veřejnost v Divadle Hybernia. Hosty Rozstřelu byli dva odborníci, kteří na konferenci vystoupí, Jan Romportl a Marek Rosa.

Univerzální umělá inteligence tu ještě není, ale...

V tuto chvíli není jasné, jak daleko máme k vytvoření umělé inteligence, říká Marek Rosa. Podle něj jde o dvě různé otázky: vytvoření jednotlivých komponentů lidské inteligence, a pak naši schopnost složit je dohromady do inteligence se schopnostmi podobnými člověku. Je ovšem spíše optimistou a podle něj bychom snad mohli uspět v horizontu několika mála desetiletí.

Jan Romportl se všech časových odhadů vyvaroval. Důležité podle něj je si vždy uvědomit, že pod názvem umělá inteligence se skrývají velmi rozdílné věci. Takzvané „úzce zaměřená“ umělá inteligence, které se specializují na jednu určitou činnost, už v některých oblastech dosahují lepších výsledků než člověk. „Žádný člověk nedokáže rozpoznat milion obličejů za minutu,“ řekl Romportl. Všeobecná umělá inteligence je zcela jinou otázkou, ale je těžké spekulovat, kdy se může objevit. „Já osobně doufám, že to nebude dříve než za dvacet let,“ říká Romportl.

Důvod jeho obav je prostý: „Inteligence a hodnotový systém jsou dvě zcela nezávislé věci,“ říká Romportl. Nevíme totiž, jak se takový systém bude chovat, připomíná. Na začátku by se asi měla tedy umělá inteligence „růst“ v izolovaném prostředí, odstřiženém od internetu. Samozřejmě bude muset mít přístup k novým informacím, aby mohla dále růst a zdokonalovat se. „My totiž netušíme, jaký bude takový systém mít cíle,“ říká Jan Romportl.

Marek Rosa doufá, že se podaří hodnotový systém případné umělé inteligence nasměrovat určitým způsobem, abychom se nedočkali příliš nepříjemného překvapení. Ani dnes ovšem nedokážeme přesně předvídat chování složitých algoritmů, a tak bude nepochybně nutné ponechat jí ve vývoji dostatek svobodné vůle, a dbát při vývoji jisté opatrnosti.

Jan Romportl se domnívá, že podobné „nasměrování“ je přímo nezbytné. „Nám nezbývá než vytvořit dobrou umělou inteligenci. Domnívám se totiž, že první umělá inteligence nejspíše rychle přeroste v superinteligenci, a pokud bychom tedy vytvořili zlou umělou inteligenci, bude to jedna z posledních věcí, kterou lidstvo udělá.“

Umělá inteligence je pro lidstvo bezprecedentní výzvou

A jak nám může umělá inteligence hypoteticky mohla uškodit? Jednou možností je podle hostů v Rozstřelu například, že dospěje k názoru, že může uniknout do skutečného světa a třeba i v zájmu obecného dobra manipulovat s lidmi a světem. „Dokážu si představit, že taková superinteligence by dokázala nejen „hacknout“ celou řadu zařízení, ale třeba také z pozadí manipulovat médií,“ říká Jan Romportl.

Jan Romportl je filozof a datový vědec, který pracuje jako konzultant pro společnost O2 Czech Republic a pořádá v Praze pravidelná setkání mezinárodní skupiny AI Safety Meetup s cílem upozornit na rizika vývoje umělé inteligence. „AGI nebude omezená biologickou daností lidského těla a nemůžeme garantovat, že bude k lidem přátelská. Přesto bychom toto riziko měli podstoupit, protože je to pro lidstvo možná jediný způsob, jak přežít.“

„Obecná umělá inteligence je pro lidstvo naprosto bezprecedentní výzvou. Investice do jejího vývoje by měla být naší prioritou a vlastně i morální povinností,“ doplňuje Marek Rosa, hlavní iniciátor pražské konference HLAI a ředitel společnosti GoodAI, který do vývoje tohoto „umělého mozku“ vkládá nemalé množství úsilí a prostředků.

Celý Záznam Rozstřelu s Janem Romportlem a Markem Rosou:

Oprava: Článek obsahoval překlepy ve jménech. Za chyby se omlouváme.

Autor:

80 let od atentátu na Heydricha

27. 5. 1942 provedli českoslovenští parašutisté atentát na zastupujícího říšského protektora na území Čech a Moravy Reinharda Heydricha.

  • Nejčtenější

Ukrajinci dostali západní superhoufnice M777. Do akce šla i Bohdana

Ať už si dělostřelectvo v dávných dobách vysloužilo titul královny či krále bojiště, ukazuje se i v jednadvacátém...

Dohoda s Německem: na stole jsou Leopardy, Pumy a raketomety MLRS

Válka na Ukrajině významně rozhýbala nejen nákupy nových zbraní, ale paradoxně také jejich výměny v rámci evropského...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

PODCAST: Říkalo se mu zvoneček. Motor, který běžel i po dávce z kulometu

Letecké motory obnášejí jistá specifika, která vycházejí z prostředí, v němž pracují. Řídký vzduch, nízké teploty, ale...

Hydroplán s proudovými motory měl být strategickým jaderným bombardérem

Mezi zajímavá letadla studené války patřil i americký těžký hydroplán Martin P6M SeaMaster s proudovými motory, který...

Do Česka konečně dorazí nové videoslužby. Poradíme, jak na ně se starou TV

Premium Český divák s nabídkou služeb videa na přání dlouho paběrkoval, letos se to však zásadně změní. Příchod nových služeb...

Půst, občas večeře, čtyři kávy denně. Jak jíst podle výživového poradce Havlíčka

Premium Strava ovlivňuje nejen naši váhu či kondici, ale i náladu a zdravotní stav. Ostatně až dvě třetiny všech nemocí mají...

Vláda má 20 korun z každého litru benzinu, říká šéf sítě levných čerpacích stanic

Premium Nikoho nenechají na pochybách, že tohle je nízkonákladová firma, kde se nehýří. Okázalost tu nemá místo. Spolumajitel...

Všechno vymyslela Škrlová. Je to hlava manipulace, říká režisér Síbrt

Premium Před patnácti lety Česko šokovala kuřimská kauza. Týrání malých chlapců nejbližšími příbuznými i podivná role „Aničky“....

  • Další z rubriky

Archeolog: Evropa byla globální už v době bronzové, mléko trávili první Britové

Rozstřel Svět byl v minulosti mnohem propojenější, než jsme si mysleli. Už před třemi tisíci lety, tedy dávno před Římskou říší,...

STO OBJEVŮ: Haló, Radiojournal. Základy rozhlasu položilo mezinárodní trio

Seriál České země patřily zkraje 20. století mezi průkopníky rozhlasového vysílání, základní kameny rádia však byly položeny...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Dopadla na Ukrajině část asteroidu, který vyhubil dinosaury?

Impaktní kráter Boltyš se nachází na území Kirovohradské oblasti v centrální části Ukrajiny. Jedná se o masivní...

Češka vyvinula přelomový lék proti rakovině prostaty. Popsala, jak funguje

Vysíláme Česká vědkyně Martina Benešová spolu se svým německým týmem vyvinula nový lék pro diagnostiku a léčbu rakoviny...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Vláda má 20 korun z každého litru benzinu, říká šéf sítě levných čerpacích stanic

Premium Nikoho nenechají na pochybách, že tohle je nízkonákladová firma, kde se nehýří. Okázalost tu nemá místo. Spolumajitel...

Jelínek z Luneticu byl u smrtelné nehody, po koncertě srazil na dálnici muže

V sobotu vystoupili Lunetic na koncertě Leoše Mareše. Když se zpěvák skupiny Václav Jelínek (43) vracel domů do...

Nešvar z devadesátých let se vrací. Turisté na místě zjišťují, že bydlí jinde

Premium Nešvar z devadesátých let se vrací. Turisté si zaplatí zájezd v zahraničí, přijedou do hotelu a teprve na jeho recepci...

Hrušínského dcera se svlékla pro Playboy. Manžela to překvapilo, říká

Pro nové číslo Playboye se svlékla a nafotila sexy snímky Kristýna Hrušínská (37). Dcera Jana Hrušínského a Miluše...

Eurovizi vyhráli Ukrajinci s písní pro matky, čeští We Are Domi nezaujali

Na šedesátém šestém ročníku mezinárodní pěvecké soutěže Eurovize, který se letos konal v italském Turíně, zvítězil...