Čtvrtek 25. února 2021, svátek má Liliana
  • schránka
  • Přihlásit Můj účet
  • Čtvrtek 25. února 2021 Liliana

Chceme černou skříňku? Superchytré počítače doktory nenahradí

Superpočítač Watson od IBM radí lékařům a chystá se zvládnout právo. A to je jen začátek. Představte si, jak převrátí naruby i to vaše odvětví. Co by vám chápající a učící se počítač usnadní? A co byste mu naopak nesvěřili?

Jak se změní vidění světa, pokud na něj budeme nahlížet optikou superchytrého počítače? | foto: Profimedia.cz

Jestli ještě někdo pochyboval o tom, že sci-fi představa o vševědoucím počítači je realistická, spadla mu čelist na začátku roku 2011. Tehdy vědci z IBM fandili z publika svému stroji a sledovali, jak ve vědomostní soutěži Jeopardy (u nás Riskuj) porazil lidské mnohonásobné šampiony.

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými...

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými soutěžícími všech dob.

Programátoři v publiku skutečně mohli pouze fandit. I kdyby chtěli Watsonu nějak pomoci, nevěděli by zřejmě jak. Jeho učící algoritmy, procedury pro porozumění přirozené řeči a hlavně mohutná a mnohočetná analýza velkých dát už byly po dvou letech vývoje tak komplexní, že vývojáři nedokázali říci, proč Watson odpověděl tak, jak odpověděl. Stejně jako rodiče, kteří učí dítě mluvit po slovíčkách, ale stejně žasnou, když se pak dítě naučí sestavovat věty, a netuší, kde se to v něm vzalo.

Programátoři mohli počítači v předstihu pomoci s louskáním očekávatelných otázek, mohli mu nadefinovat nové kategorie a vzorce otázek, dvojsmyslů i chytáků. Ale pak už jen sledovali a doufali, že paralelní výpočty různých možností, hledání souvislostí a korelací v encyklopediích a tabulkách a závěrečné vyhodnocení miliard operací vyústí ve správnou odpověď.

Doktor Watson. Vlastně asistent Watson

Pokročilé pokusy o netriviální a učící se umělou inteligencí, mezi něž patří i projekt Watson, jsou fascinující. Mohou nám leccos říci o tom, jak funguje naše myšlení, čím se necháme zmást (vizte kognitivní omyly) a v neposlední řadě mohou umožnit lepší utřídění petabajtů informací, které se objevují každý den.

IBM už při představení Watsonu veřejnosti avizovalo, že se s tímto superpočítačem chystá na pomoc lékařům. Je to krok logický. Lékařských studií totiž vzniká mnohem více, než je běžný smrtelník schopen přečíst. Současné lékařské poznatky jsou tedy distribuovány neefektivně a trpí tím pacienti, kteří nejsou léčeni podle nejnovějších dat.

Počítač na principu Watsonu to má změnit. Pročítá miliony vědeckých studií, učí se o nových souvislostech a srovnává tyto nové poznatky se zdravotní kartou konkrétního pacienta.

Ukázka zapojení Watsona v lékařství (Zurich 2012)
Ukázka zapojení Watsona v lékařství (Zurich 2012)

Watson by měl na základě zdravotní dokumentace a aktuálních poznatků lékaři doporučit, jaké další testy by měl pacient podstoupit a jaká léčba má nejvyšší šanci na úspěch. Lékař může vložit další požadavky nebo se podívat na studie, ze kterých Watson vycházel. (Fotografie z IBM Research centra v Zurichu)

Může statistika nahradit inspiraci?

Taková je alespoň základní myšlenka. Watson má být rádce, nikoli řešitel problémů. "Watson má být asistent lékaře, proto mu také nechceme říkat doktor Watson, protože to by vypadalo, že má doktora nahradit. Ale Watson má za lékaře jen udělat namáhavou práci a rozsáhlý výzkum, nabídne možnosti a zdůvodní je," připomněl expert na velká data z IBM Dirk DeRoos (velký rozhovor s ním najdete zde).

Asistované vyhledávání souvisejících informací je evidentně prospěšné a není náhoda, že si IBM vybralo právě tuto oblast. Vědecké práce a studie jsou přece jen docela strukturované dokumenty (i když pořád ne tak strukturované, aby mohly být zpracovány strojově s naprostou jistotou) a také používání terminologie je zde relativně ustálené.

Problém by mohl nastat ve chvíli, kdy by expertní systémy byly tak rozšířené, že by na nich byla odchovaná celá generace lékařů. Podobně, jako jsme si zvykli neučit se pravopis, protože na Googlu rychle zjistíme, jestli se píše "shlédnout" nebo "zhlédnout", také doktoři by si přirozeně nechali poradit v případech, kdy dnes musejí používat paměť, a alokovali by svou pozornost jiným směrem. A Watson by se tak z asistenta stal doktorem. Chytrým rádcem, který od krále postupem času nenápadně převzal království. A nikdo by ani nevěděl, na základě čeho rádce vlastně radí.

A co teprve další generace, kdy závěry, které radí Watson, jsou používány v dalších průzkumech, ze kterých Watson čerpá? V tu chvíli už se vliv černé skříňky zacykluje a znásobuje. Těžko lze očekávat, že by výzkumníci této možnosti nevyužili. Jenže co to do budoucna znamená pro výzkum? Může klesnout kreativita, náhodné objevy nebo se zkrátka opakovat nevystopovatelná chyba. A nikdo si toho ani nevšimne.

Watson do kapsy? Nechcete rovnou Sherlocka?

IBM doufá, že systém učícího se superpočítače promění v úspěšný byznys. Jednou z vizí je i "Watson do kapsy". Asistent by sídlil ve vašem mobilu a dával by vám odpovědi laděné na míru přímo vašim potřebám a zvykům (o něco podobného se snaží Google s Google Now a Apple se Siri).

Zatím je podle Debory Dahlové z IBM problém dostat data k Watsonovi v čitelné podobě. "Je spousta oblastí, kde Watson potřebuje znát vaši konkrétní situaci, aby vám mohl dobře poradit," řekla pro Technology Review. "Myslím, že směřujeme k systému, který bude nabízet hloubkovou analýzu i porozumění smyslu mluvené řeči."

Watson se jmenuje podle zakladatele společnosti IBM, ale většině lidí se pod tímto jménem vybaví pomocník legendárního detektiva Sherlocka Holmese. Doktor Watson skutečně v Doylových románech plnil funkci, o kterou se uchází jeho počítačový jmenovec. Odpovídá na návodné otázky, shrnuje známé informace. A dává Sherlockovi zpětnou vazbu, na základě které geniálního detektiva napadne řešení záhadného případu. Stejně tak i lékaře by mohlo napadnout kreativní rozuzlení poté, co za něj počítač odvede suchopárný výzkum.

Umělá inteligence a etika

Kdo je zodpovědný za to, když robot nabourá auto?

Ale proč by vlastně počítač rovnou neplnil funkci Sherlocka? Vždyť je k tomu "jako" dělaný. Má prakticky bezchybnou paměť, umí hledat korelace tam, kde by je nikdo nehledal, a pracuje s chladnou přesností bez ohledu na emoce nebo zdání.

A v tom je podle mého názoru jádro problému. Dokud necháme superpočítač, aby hrál roli Watsona, a budeme si vědomi jeho omezení, není se moc čeho bát. Jakmile začneme počítačům věřit natolik, že jim svěříme roli hlavního geniálního detektiva, máme problém. Sherlock je totiž tak trochu psychopat.

Právě odlidštění bychom se při řešení problémů měli bát. V tom spočívá síla i slabina počítačové analýzy. Pečlivě studujme, co tato nová technologie znamená pro naše vnímání světa. Jinak nám hrozí, že budeme řešit jen ty problémy, které počítače řešit umí. Tedy ty, které se týkají efektivity, alokace zdrojů a kvantifikovatelných korelací.

Komplexní, zašmodrchané, překvapivé, tedy jinými slovy lidské problémy by pak mohly propadnout sítem, aniž by společnost spoléhající na superpočítač hnula brvou.

Autor:
  • Nejčtenější

ANALÝZA: Lidé nejsou méně ukáznění. Proč rostou počty případů a co dál

Ze současné situace neexistuje žádné jednoduché a levné východisko. Ale jedna cesta nabízí naději na relativně rychlé...

Solární elektrárna na Sahaře by změnila svět k horšímu, tvrdí studie

Sahara osazená solárními panely by možná naplnila sen o zelené poušti i nevyčerpatelném zdroji čisté energie. Skrývá v...

Česko bude raketová velmoc. Ale jen v tom špatném smyslu

Česká armáda se chystá na nákup nové generace protiletadlových raketových systémů. Ale je poněkud nepochopitelné, že si...

Úspěch. Americká laboratoř přistála na Marsu i s malým vrtulníkem

NASA přiletěla na Mars znovu vyzkoušet nejtěžší přistávací manévr, jaký lidstvo na jiné planetě doposud provedlo....

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Otevřel se padák a sonda dosedla. NASA zveřejnila záběry přistání na Marsu

NASA zveřejnila tříminutový videozáznam čtvrtečního přistání robotické sondy Perseverance na povrchu Marsu. Jde o...

Dvaadvacet znaků, že s tímhle mužem vás místo pohádky čeká jen utrpení

Premium Některé ženy jako by se zhlédly v popelce. Věří, že oříšky přinášejí prince. Jenže nakonec jsou z nich spíš veverky –...

Inflace požírá uložené peníze. Kam s nimi, aby jich zmizelo co nejméně?

Premium Naspořili jste 200 000 korun, uložili je na účet, těšili se na úroky a po roce zjistili, že jste zbohatli o celých 340...

Biolog Zrzavý: Covid se postará, abychom umírali i na něco jiného než rakovinu

Premium Podle amerického psychologa a genetika Roberta Plomina mají zděděné geny daleko větší význam při utváření naší...

  • Další z rubriky

Britská varianta koronaviru v únoru v ČR převládla, naznačuje analýza

Stalo se přesně to, co epidemiologové odhadovali. V Česku během minulých dvou měsíců převládla linie nového koronaviru...

STO OBJEVŮ: Geniální Ressel zavedl lodní šroub do praxe. Uznání nepřišlo

Seriál Změnil lodní dopravu, ulehčil spojení Evropy s dalšími kontinenty. Český rodák Josef Ressel zpopularizoval lodní šroub,...

Solární elektrárna na Sahaře by změnila svět k horšímu, tvrdí studie

Sahara osazená solárními panely by možná naplnila sen o zelené poušti i nevyčerpatelném zdroji čisté energie. Skrývá v...

Fascinující objev stop napřimujícího se krále dinosaurů

I když se může zdát, že o životě a chování dinosaurů toho víme mnoho, stále je tu celá řada otázek, které zůstávají...

Prodej rodinného domu, 111 m2, Benátky nad Jizerou
Prodej rodinného domu, 111 m2, Benátky nad Jizerou

Podolecká, Benátky nad Jizerou - Benátky nad Jizerou I, okres Mladá Boleslav
2 810 000 Kč

Gabriela Koukalová: Exmanžel mě podváděl a myslím, že utrácel mé peníze

Bývalá světová šampionka v biatlonu, dnes moderátorka televizního pořadu Showtime, Gabriela Koukalová přiznává v...

Bondgirl Rosamund Pike žije v Česku. Překvapili ji opilí rafťáci v Krumlově

Britská herečka Rosamund Pike (42), známá například z bondovky Dnes neumírej, se kvůli natáčení s celou rodinou...

VIDEO: 5 triků, jak v obchodě otevřete mikrotenový sáček. Rychle a bez nervů

Suché ruce a mikrotenové sáčky - často náš největší nepřítel v obchodech. Někdy je to v oddělení pečiva či ovoce a...

Chci kratší pracovní týden a pět týdnů dovolené, říká Maláčová

Válka o kurzarbeit dospěla do fáze podepisování podmínek mírové dohody. Alespoň to tak působí z úst ministryně práce a...

Zemřel český DJ Thomas Coastline. Bylo mu 35 let

Zemřel známý český DJ Thomas Coastline, vlastním jménem Tomáš Malina. V minulosti prodělal rakovinu tlustého střeva. O...