Rozstřel
Sledovat další díly na iDNES.tvPetr Mára vidí v používání umělé inteligence víc výhod než hrozeb. On sám ji využívá na denní bázi. Dokonce i před natáčením Rozstřelu se s AI radil, jak na některé dotazy reagovat. Používá ji jako svého pomyslného rádce. „Možná by se dalo říct, že je mým mentorem.“
„Ale je nutné říct, že AI je tady s námi už od začátku éry počítačů. Není to nic nového. Nové je to, že si na ni díky jazykovým modelům mohli lidé poprvé pomyslně sáhnout a vidět ten ohromný pokrok, který udělala. Lidi ale vůbec netuší, že je součástí jejich životů už velmi dlouho,“ podotýká Mára.
Volání po regulaci
Podle něj se její zapojení do lidských životů dá přirovnat k nástupu internetu. Ten lidé dřív používali spíš pasivně – k posílání mailů, vyhledávání jízdních řádů nebo zjišťování předpovědi počasí. „Dnes je to ale úplně jiné médium. A stejné to bude s AI. Velmi pravděpodobně bude součástí úplně všeho, co má nějakou formu digitální stopy. A za deset let bude ještě na vyšší úrovni.“
„Není to tedy nic skokového. Je to věc, která se vyvíjí postupně. A už teď, když si vaši čtenáři čtou tento článek, poslouchají podcast nebo sledují tohle video, tak se ocitli v realitě, která už je algoritmizovaná. Článek jim byl možná doporučen právě pomocí AI. Už dnes je to realita, není to nic nového,“ pokračuje Petr Mára.
Nové je však to, že významné technologické kapacity začaly upozorňovat na možná rizika, která jsou s umělou inteligencí spojená. Volají po regulaci a varují před nebezpečím, kterému může být vinou AI lidstvo vystaveno.
„Ale já jsem optimista. Myslím, že to dobře dopadne. Na druhou stranu jsem si vědom, že v případě AI existují velké výzvy. Dnes je AI úzká, generativní. Zadáte jí, aby vám napsala nějaký text, a jste spokojeni, jak to fantasticky napsala. To samé platí o vytvoření obrázku, videa, hudby,“ říká Mára.
Řekne nám superinteligence o své existenci?
„Ale vývoj teď směřuje k něčemu, o čem mluvíme jako o obecné AI. To je umělá inteligence, která by měla být na úrovni člověka. Může to být váš partner, který dokáže přemýšlet, chovat se jako vy. No a pak je tu ještě o řád vyšší superinteligence. Ta může přijít třeba za nějakých dvacet nebo padesát let. Ale ve skutečnosti tady může být už teď a my o tom jenom nevíme. Protože kdyby tomu tak bylo, tak by nám přece o své existenci neřekla,“ zamýšlí se technologický optimista.
Dnešní umělá inteligence, kterou využívají miliony lidí po celém světě, pracuje podle Máry tak, že procentuálně odhaduje, jaké další slovo by měla použít, a podle toho lidem sestavuje text. „My ale děláme to samé. Já taky nevím, co řeknu za další, páté slovo. Ona vezme existující texty a učí se z nich.“
„A právě tady se podle některých lidí skrývá nebezpečí, že vlastně vůbec netušíme, jak v detailu tato věc funguje. Nejsme schopni predikovat, proč zrovna teď používá tohle konkrétní slovo. Tohle vše už je schované v jakémsi datovém modelu nebo v těch milionových sítích. AI prostě něco udělá, ale my už nevíme jak,“ upozorňuje Mára.
„Riziko spočívá také v tom, že AI vám chce vyhovět. Ona pomyslně halucinuje. Proto nemůžete brát to, co vám řekne nebo napíše dnešní umělá inteligence, jako pravdu. Protože ona vás chce prostě uspokojit. Vygeneruje vám text, který nemusí být pravdivý,“ míní influencer.
Hrozba fake news
A zdaleka největším rizikem je podle něj to, že AI generuje také fake news. „Je schopna vzít něčí hlas nebo obličej a může se za něj vydávat. Stačí, abyste někde tři minuty mluvili, někdo nahrál váš hlas, a pak je kdokoli schopen pod vaším jménem někam zavolat a váš hlas následně použít. To jsou hrozby, které tady vidíme.“
„Teď je v kinech snímek Oppenheimer. A tady vidíme krásnou paralelu. AI můžete použít pro dobro, ale můžete ji použít i pro velmi negativní věc. A to stále hovoříme o tom, že umělou inteligenci zneužije člověk. Ale brzy může přijít obecná AI, která může být inteligentní jako člověk, bude mít informace o všem a tábor odpůrců říká, že je to velmi nebezpečné, protože pak tady může vzniknout jakési vědomí superinteligence, která bude najednou svět řídit podle sebe. Nevím, jestli mají pravdu optimisté, nebo pesimisté, ale myslím si, že je dobré nad tím přemýšlet, je dobré trh regulovat a být připravený na všechny možné alternativy,“ myslí si technologický optimista.
Před zneužitím umělé inteligence chrání podle Máry lidstvo jakési pomyslné filtry, které zabrání největším škodám. „Třeba aby se AI nechovala rasisticky. Je tu filtr, který definuje, jak se AI může chovat. Na sociálních sítích tyto filtry fungují, aby tam nebyl totální chaos. Pokud pominu bývalý Twitter, tak jej tyto firmy samozřejmě u AI využívají, aby se umělá inteligence chovala, řekněme, korektně.“
KVÍZ: Co umí umělá inteligence a na co si dát pozor |
Ale to podle něj platí u velkých renomovaných firem, které umělou inteligenci vytvářejí. Existuje tu ale hrozba. „Teď je otázka, jestli v budoucnosti nějaké jazykové modely nebudete mít i vy na svém vlastním počítači a ty filtry si vypnete. Čili teď je to regulováno z hlediska velkých hráčů. Ale jak bude vypadat svět AI za pět let, to je samozřejmě těžko predikovatelné.“
A může se umělá inteligence stát pro lidstvo skutečným nebezpečím? „Víte, už i ta ‚hloupá‘ úzká inteligence disponuje větším množstvím informací než kdokoli z nás, je chytřejší ve všem. Vždyť už v roce 1997 porazil počítač člověka v šachu. A to je dvacet šest let zpátky. Dostáváme se teď do hodně filozofické roviny: Co to je vědomí? Může mít AI vědomí? A může mít vlastní cíl? A jsme schopni jako lidé zjistit cíl, který by umělá inteligence měla? Takže máme mít nějaké základní zákony robotiky podle Asimova nebo najdeme nějakou jinou formu regulace? Nebo vymyslíme velké červené tlačítko, které tohle všechno vypne?“ pokládá si otázku Mára.
„Myslím si, že se vám už dneska nepodaří vytvořit jakýsi regulativní algoritmus schovaný uvnitř. Protože pokud ta věc bude nějakým způsobem autonomní, tak už se ubrání a může ten kód přepsat. A to je ten důvod, proč některé firmy volají po regulacích, protože nechtějí mít odpovědnost za to, když se něco špatného stane. A hlavně chtějí definovat, co vlastně máme v takovém případě dělat. Ale tento algoritmus nevymyslíte. To by opravdu muselo existovat fyzické tlačítko, které vám vypne veškerou elektřinu nebo aspoň softwarovou část,“ spekuluje Mára.
Zatáčku vybereme
Podle něj však zásadně převládají klady AI. Například při vzdělávání. „Třeba školství není vůbec personalizované. Vezmete děti, dáte je do školy a všechny mají stejný obsah výuky. A to je samozřejmě špatně.“
Umělá inteligence podle něj bude schopna školství personalizovat, mít pro každého jedince speciální formu výuky, rozvíjet ho v oboru, který ho baví a ve kterém se může zdokonalovat. A tento proces může začít už od předškolních dětí.
„A další věc. Všichni předpokládali, a to včetně mě, že AI změní hlavně ty jednoduché manuální práce. Ale všimněte si, že už i generativní AI spíš nabourává kreativní práce. Člověk si vždycky říkal, že je mu vlastní lidství, kreativita. A najednou přichází stroj, který ji zvládne lépe. Když si třeba vezmete sto lidí, kteří pracují v kreativním odvětví, tak AI je lepší než devadesát procent z nich,“ říká Mára.
Umělá inteligence: ekonomické požehnání, či prokletí? Historie nabízí vodítka |
Ale podle něj to neznamená, že tito lidé o práci přijdou. Naopak tito pracovníci potenciál AI využijí k tomu, aby jejich práce byla ještě kvalitnější než dosud. A to platí i u dalších tvůrčích profesí, třeba v novinařině, u tvůrců videí, fotografií nebo hudby.
„A i proto jsem pořád optimista. Lidstvo je fantastické v tom, že se vždycky řítí do nějakého průšvihu, ale nakonec dokáže zatáčku vybrat. A já vím, že ji vybereme. Neříkám, že život bude lepší nebo horší. On bude prostě jiný. Přece kdo z nás může říct, že před sto lety byl život horší. Důležité je, jak se lidé cítí z hlediska vztahů, práce. Ale i tak si myslím, že člověk bude s umělou inteligencí vnímat život jako lepší,“ uzavírá Petr Mára.
