Chceme černou skříňku? Superchytré počítače doktory nenahradí

Superpočítač Watson od IBM radí lékařům a chystá se zvládnout právo. A to je jen začátek. Představte si, jak převrátí naruby i to vaše odvětví. Co by vám chápající a učící se počítač usnadní? A co byste mu naopak nesvěřili?
Fotogalerie4

Jak se změní vidění světa, pokud na něj budeme nahlížet optikou superchytrého počítače? | foto: Profimedia.cz

Jestli ještě někdo pochyboval o tom, že sci-fi představa o vševědoucím počítači je realistická, spadla mu čelist na začátku roku 2011. Tehdy vědci z IBM fandili z publika svému stroji a sledovali, jak ve vědomostní soutěži Jeopardy (u nás Riskuj) porazil lidské mnohonásobné šampiony.

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými soutěžícími všech dob.

Programátoři v publiku skutečně mohli pouze fandit. I kdyby chtěli Watsonu nějak pomoci, nevěděli by zřejmě jak. Jeho učící algoritmy, procedury pro porozumění přirozené řeči a hlavně mohutná a mnohočetná analýza velkých dát už byly po dvou letech vývoje tak komplexní, že vývojáři nedokázali říci, proč Watson odpověděl tak, jak odpověděl. Stejně jako rodiče, kteří učí dítě mluvit po slovíčkách, ale stejně žasnou, když se pak dítě naučí sestavovat věty, a netuší, kde se to v něm vzalo.

Programátoři mohli počítači v předstihu pomoci s louskáním očekávatelných otázek, mohli mu nadefinovat nové kategorie a vzorce otázek, dvojsmyslů i chytáků. Ale pak už jen sledovali a doufali, že paralelní výpočty různých možností, hledání souvislostí a korelací v encyklopediích a tabulkách a závěrečné vyhodnocení miliard operací vyústí ve správnou odpověď.

Doktor Watson. Vlastně asistent Watson

Pokročilé pokusy o netriviální a učící se umělou inteligencí, mezi něž patří i projekt Watson, jsou fascinující. Mohou nám leccos říci o tom, jak funguje naše myšlení, čím se necháme zmást (vizte kognitivní omyly) a v neposlední řadě mohou umožnit lepší utřídění petabajtů informací, které se objevují každý den.

IBM už při představení Watsonu veřejnosti avizovalo, že se s tímto superpočítačem chystá na pomoc lékařům. Je to krok logický. Lékařských studií totiž vzniká mnohem více, než je běžný smrtelník schopen přečíst. Současné lékařské poznatky jsou tedy distribuovány neefektivně a trpí tím pacienti, kteří nejsou léčeni podle nejnovějších dat.

Počítač na principu Watsonu to má změnit. Pročítá miliony vědeckých studií, učí se o nových souvislostech a srovnává tyto nové poznatky se zdravotní kartou konkrétního pacienta.

Ukázka zapojení Watsona v lékařství (Zurich 2012)
Ukázka zapojení Watsona v lékařství (Zurich 2012)

Watson by měl na základě zdravotní dokumentace a aktuálních poznatků lékaři doporučit, jaké další testy by měl pacient podstoupit a jaká léčba má nejvyšší šanci na úspěch. Lékař může vložit další požadavky nebo se podívat na studie, ze kterých Watson vycházel. (Fotografie z IBM Research centra v Zurichu)

Může statistika nahradit inspiraci?

Taková je alespoň základní myšlenka. Watson má být rádce, nikoli řešitel problémů. "Watson má být asistent lékaře, proto mu také nechceme říkat doktor Watson, protože to by vypadalo, že má doktora nahradit. Ale Watson má za lékaře jen udělat namáhavou práci a rozsáhlý výzkum, nabídne možnosti a zdůvodní je," připomněl expert na velká data z IBM Dirk DeRoos (velký rozhovor s ním najdete zde).

Asistované vyhledávání souvisejících informací je evidentně prospěšné a není náhoda, že si IBM vybralo právě tuto oblast. Vědecké práce a studie jsou přece jen docela strukturované dokumenty (i když pořád ne tak strukturované, aby mohly být zpracovány strojově s naprostou jistotou) a také používání terminologie je zde relativně ustálené.

Problém by mohl nastat ve chvíli, kdy by expertní systémy byly tak rozšířené, že by na nich byla odchovaná celá generace lékařů. Podobně, jako jsme si zvykli neučit se pravopis, protože na Googlu rychle zjistíme, jestli se píše "shlédnout" nebo "zhlédnout", také doktoři by si přirozeně nechali poradit v případech, kdy dnes musejí používat paměť, a alokovali by svou pozornost jiným směrem. A Watson by se tak z asistenta stal doktorem. Chytrým rádcem, který od krále postupem času nenápadně převzal království. A nikdo by ani nevěděl, na základě čeho rádce vlastně radí.

A co teprve další generace, kdy závěry, které radí Watson, jsou používány v dalších průzkumech, ze kterých Watson čerpá? V tu chvíli už se vliv černé skříňky zacykluje a znásobuje. Těžko lze očekávat, že by výzkumníci této možnosti nevyužili. Jenže co to do budoucna znamená pro výzkum? Může klesnout kreativita, náhodné objevy nebo se zkrátka opakovat nevystopovatelná chyba. A nikdo si toho ani nevšimne.

Watson do kapsy? Nechcete rovnou Sherlocka?

IBM doufá, že systém učícího se superpočítače promění v úspěšný byznys. Jednou z vizí je i "Watson do kapsy". Asistent by sídlil ve vašem mobilu a dával by vám odpovědi laděné na míru přímo vašim potřebám a zvykům (o něco podobného se snaží Google s Google Now a Apple se Siri).

Zatím je podle Debory Dahlové z IBM problém dostat data k Watsonovi v čitelné podobě. "Je spousta oblastí, kde Watson potřebuje znát vaši konkrétní situaci, aby vám mohl dobře poradit," řekla pro Technology Review. "Myslím, že směřujeme k systému, který bude nabízet hloubkovou analýzu i porozumění smyslu mluvené řeči."

Watson se jmenuje podle zakladatele společnosti IBM, ale většině lidí se pod tímto jménem vybaví pomocník legendárního detektiva Sherlocka Holmese. Doktor Watson skutečně v Doylových románech plnil funkci, o kterou se uchází jeho počítačový jmenovec. Odpovídá na návodné otázky, shrnuje známé informace. A dává Sherlockovi zpětnou vazbu, na základě které geniálního detektiva napadne řešení záhadného případu. Stejně tak i lékaře by mohlo napadnout kreativní rozuzlení poté, co za něj počítač odvede suchopárný výzkum.

Umělá inteligence a etika

Kdo je zodpovědný za to, když robot nabourá auto?

Ale proč by vlastně počítač rovnou neplnil funkci Sherlocka? Vždyť je k tomu "jako" dělaný. Má prakticky bezchybnou paměť, umí hledat korelace tam, kde by je nikdo nehledal, a pracuje s chladnou přesností bez ohledu na emoce nebo zdání.

A v tom je podle mého názoru jádro problému. Dokud necháme superpočítač, aby hrál roli Watsona, a budeme si vědomi jeho omezení, není se moc čeho bát. Jakmile začneme počítačům věřit natolik, že jim svěříme roli hlavního geniálního detektiva, máme problém. Sherlock je totiž tak trochu psychopat.

Právě odlidštění bychom se při řešení problémů měli bát. V tom spočívá síla i slabina počítačové analýzy. Pečlivě studujme, co tato nová technologie znamená pro naše vnímání světa. Jinak nám hrozí, že budeme řešit jen ty problémy, které počítače řešit umí. Tedy ty, které se týkají efektivity, alokace zdrojů a kvantifikovatelných korelací.

Komplexní, zašmodrchané, překvapivé, tedy jinými slovy lidské problémy by pak mohly propadnout sítem, aniž by společnost spoléhající na superpočítač hnula brvou.

Nejčtenější

USAF nakupuje pancéřované „Turbočmeláky“. Jeden kus vyjde na 880 milionů

Americké letectvo si převzalo první exemplář turbovrtulového letadla Skyraider II. Vzhledem vzdáleně připomíná československého Turbočmeláka. Není divu. Vznikl úpravou civilního letounu používaného...

Jak nahodit slavný německý tank Tiger. Chce to hlavně nechat dobře zahřát

Můžeme o tom vést spory a můžeme s tím i nesouhlasit, ale německý tank Tiger I je pravděpodobně nejslavnějším tankem druhé světové války. Bylo o něm napsáno hodně, ale v tomto textu se zaměříme na...

Viděl padat své nejoblíbenější letadlo. Na letištích natáčí skoro třicet let

Jeho zájem o letectví se zrodil na vyhlídkové terase pražského ruzyňského letiště, kam jej někdy v roce 1985 vzal tatínek. Letecký kameraman Jan Jánský vytvořil za téměř třicet let videoarchiv,...

Osobní dopravu do vzduchu má přenést unikátní rotor i jednomístný dron

O přenesení osobní dopravy do vzduchu se mluví poměrně dlouho, nechybí ani řada pokusů o výrobu létajícího stroje pro přesun na opravdu krátké vzdálenosti. Nedávno se objevily dvě novinky, které...

Pozor na nová pravidla aerolinek. Na nabíjení z powerbanky pomalu zapomeňte

Porucha powerbanky cestujícího v lednu zapříčinila požár na palubě Airbusu A321. Požár naštěstí vypukl ještě před vzletem, všech 176 cestujících se podařilo evakuovat, ale letadlo bylo zcela zničeno....

Jak nahodit slavný německý tank Tiger. Chce to hlavně nechat dobře zahřát

Můžeme o tom vést spory a můžeme s tím i nesouhlasit, ale německý tank Tiger I je pravděpodobně nejslavnějším tankem druhé světové války. Bylo o něm napsáno hodně, ale v tomto textu se zaměříme na...

22. dubna 2025

V noci můžete pozorovat padající částečky z komety Thatcher

Pokud v noci z pondělí na úterý zakloníte hlavu a budete pozorovat oblohu, možná se vám podaří zachytit některý z projevů meteorického roje Lyridy. Během jejich vrcholu by mělo být k vidění několik...

21. dubna 2025

Rozbité vejce přinese zkázu Neapoli. Legenda se pojí s ostrovním hradem

Jméno neapolského Vaječného hradu vychází z legendy, podle které je v jeho útrobách ukryto vejce. Není to ovšem ledajaké vejce, alespoň co se týče jeho funkce. Legenda totiž praví, že rozbije-li se,...

21. dubna 2025

Vzkazy v láhvi odhalily zbytečnou smrt vzduchoplavců. Zkáza vzducholodi L.19

Spojení pojmů „vzducholoď“ a „první světová válka“ dodnes v lidech evokuje německé noční nálety na anglická města. Ačkoli koráby lehčí vzduchu neprovozovali jen Němci, dá se taková myšlenková zkratka...

20. dubna 2025

Bojíte se svěřit svá data umělé inteligenci? Zkuste to lokálně. Víme jak

Premium

Kolem generativní umělé inteligence panuje řada obav. Jednou z nich může být strach o vlastní data, která při komunikaci se systémem sdílíte. Další problém může nastat, když z nějakého důvodu...

20. dubna 2025

Potápěč si na Facebooku koupil vrak lodi, potopené torpédem v roce 1917

Koupit si loď je krásné, ale zároveň velmi zavazující. Majitele čeká náročná údržba, náklady na kotvení apod. Britský potápěč našel ekonomičtější řešení, když si na portálu Facebook Marketplace...

19. dubna 2025

Filozofové předpověděli, kterak zlé myslící stroje ovládnou svět. Už zase

Posledních několik dnů se hodně mluví o prognóze AI 2027. Jde o jednasedmdesátistránkový dokument, mapující možný vývoj velkých jazykových modelů v blízké budoucnosti. V tomto článku shrneme jeho...

18. dubna 2025  15:58

Výzkum 14 153 443 projevů v americkém Kongresu: zákonodárci opouštějí fakta

Zástupci amerických občanů se ve svých řečech přestávají odkazovat na ověřitelné skutečnosti. Nahrazují je intuicí a osobními dojmy. Pokles začal už v sedmdesátých letech minulého století. Současný...

18. dubna 2025  10:02,  aktualizováno  10:02

Viděl padat své nejoblíbenější letadlo. Na letištích natáčí skoro třicet let

Jeho zájem o letectví se zrodil na vyhlídkové terase pražského ruzyňského letiště, kam jej někdy v roce 1985 vzal tatínek. Letecký kameraman Jan Jánský vytvořil za téměř třicet let videoarchiv,...

18. dubna 2025

Vzdálená planeta má známky života, hlásí vědci. Je tu však několik „ale“

Vesmírný teleskop Jamese Webba přinesl podle skupiny vědců z Cambridgeské univerzity zajímavý objev na 124 světelných let vzdálené planetě K2-18b. V atmosféře této planety totiž odhalili molekuly...

17. dubna 2025  12:57

Jak prodat dětské kolo a koupit nové? Otestovali jsme službu Decathlon Buy back
Jak prodat dětské kolo a koupit nové? Otestovali jsme službu Decathlon Buy back

Když na jaře vytáhnete dětské kolo z garáže, možná zjistíte, že už je vašemu potomkovi malé. Co s tím? Můžete ho prodat jednoduše a rychle díky...

Bulharsko zažilo před 100 lety nejbrutálnější teroristický útok v dějinách

V polovině dubna 1925 se v bulharské Sofii odehrál nejhorší teroristický útok v dějinách země. Konečná bilance: 213 mrtvých a 500 zraněných. Bombový útok měli na svědomí místní komunisté, spekulovalo...

17. dubna 2025  10:30

Apple připravuje systém, který má změnit to, jak využíváte jeho iPady

Za necelé dva měsíce by měla společnost Apple představit novou generaci operačního systému pro své tablety. A mohla by to být změna, která konečně přinese větší využití potenciálu, který toto...

17. dubna 2025