Premium

Získejte všechny články
jen za 89 Kč/měsíc

Chceme černou skříňku? Superchytré počítače doktory nenahradí

Superpočítač Watson od IBM radí lékařům a chystá se zvládnout právo. A to je jen začátek. Představte si, jak převrátí naruby i to vaše odvětví. Co by vám chápající a učící se počítač usnadní? A co byste mu naopak nesvěřili?

Jak se změní vidění světa, pokud na něj budeme nahlížet optikou superchytrého počítače? | foto: Profimedia.cz

Jestli ještě někdo pochyboval o tom, že sci-fi představa o vševědoucím počítači je realistická, spadla mu čelist na začátku roku 2011. Tehdy vědci z IBM fandili z publika svému stroji a sledovali, jak ve vědomostní soutěži Jeopardy (u nás Riskuj) porazil lidské mnohonásobné šampiony.

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými soutěžícími všech dob.

Programátoři v publiku skutečně mohli pouze fandit. I kdyby chtěli Watsonu nějak pomoci, nevěděli by zřejmě jak. Jeho učící algoritmy, procedury pro porozumění přirozené řeči a hlavně mohutná a mnohočetná analýza velkých dát už byly po dvou letech vývoje tak komplexní, že vývojáři nedokázali říci, proč Watson odpověděl tak, jak odpověděl. Stejně jako rodiče, kteří učí dítě mluvit po slovíčkách, ale stejně žasnou, když se pak dítě naučí sestavovat věty, a netuší, kde se to v něm vzalo.

Programátoři mohli počítači v předstihu pomoci s louskáním očekávatelných otázek, mohli mu nadefinovat nové kategorie a vzorce otázek, dvojsmyslů i chytáků. Ale pak už jen sledovali a doufali, že paralelní výpočty různých možností, hledání souvislostí a korelací v encyklopediích a tabulkách a závěrečné vyhodnocení miliard operací vyústí ve správnou odpověď.

Doktor Watson. Vlastně asistent Watson

Pokročilé pokusy o netriviální a učící se umělou inteligencí, mezi něž patří i projekt Watson, jsou fascinující. Mohou nám leccos říci o tom, jak funguje naše myšlení, čím se necháme zmást (vizte kognitivní omyly) a v neposlední řadě mohou umožnit lepší utřídění petabajtů informací, které se objevují každý den.

IBM už při představení Watsonu veřejnosti avizovalo, že se s tímto superpočítačem chystá na pomoc lékařům. Je to krok logický. Lékařských studií totiž vzniká mnohem více, než je běžný smrtelník schopen přečíst. Současné lékařské poznatky jsou tedy distribuovány neefektivně a trpí tím pacienti, kteří nejsou léčeni podle nejnovějších dat.

Počítač na principu Watsonu to má změnit. Pročítá miliony vědeckých studií, učí se o nových souvislostech a srovnává tyto nové poznatky se zdravotní kartou konkrétního pacienta.

Ukázka zapojení Watsona v lékařství (Zurich 2012)
Ukázka zapojení Watsona v lékařství (Zurich 2012)

Watson by měl na základě zdravotní dokumentace a aktuálních poznatků lékaři doporučit, jaké další testy by měl pacient podstoupit a jaká léčba má nejvyšší šanci na úspěch. Lékař může vložit další požadavky nebo se podívat na studie, ze kterých Watson vycházel. (Fotografie z IBM Research centra v Zurichu)

Může statistika nahradit inspiraci?

Taková je alespoň základní myšlenka. Watson má být rádce, nikoli řešitel problémů. "Watson má být asistent lékaře, proto mu také nechceme říkat doktor Watson, protože to by vypadalo, že má doktora nahradit. Ale Watson má za lékaře jen udělat namáhavou práci a rozsáhlý výzkum, nabídne možnosti a zdůvodní je," připomněl expert na velká data z IBM Dirk DeRoos (velký rozhovor s ním najdete zde).

Asistované vyhledávání souvisejících informací je evidentně prospěšné a není náhoda, že si IBM vybralo právě tuto oblast. Vědecké práce a studie jsou přece jen docela strukturované dokumenty (i když pořád ne tak strukturované, aby mohly být zpracovány strojově s naprostou jistotou) a také používání terminologie je zde relativně ustálené.

Problém by mohl nastat ve chvíli, kdy by expertní systémy byly tak rozšířené, že by na nich byla odchovaná celá generace lékařů. Podobně, jako jsme si zvykli neučit se pravopis, protože na Googlu rychle zjistíme, jestli se píše "shlédnout" nebo "zhlédnout", také doktoři by si přirozeně nechali poradit v případech, kdy dnes musejí používat paměť, a alokovali by svou pozornost jiným směrem. A Watson by se tak z asistenta stal doktorem. Chytrým rádcem, který od krále postupem času nenápadně převzal království. A nikdo by ani nevěděl, na základě čeho rádce vlastně radí.

A co teprve další generace, kdy závěry, které radí Watson, jsou používány v dalších průzkumech, ze kterých Watson čerpá? V tu chvíli už se vliv černé skříňky zacykluje a znásobuje. Těžko lze očekávat, že by výzkumníci této možnosti nevyužili. Jenže co to do budoucna znamená pro výzkum? Může klesnout kreativita, náhodné objevy nebo se zkrátka opakovat nevystopovatelná chyba. A nikdo si toho ani nevšimne.

Watson do kapsy? Nechcete rovnou Sherlocka?

IBM doufá, že systém učícího se superpočítače promění v úspěšný byznys. Jednou z vizí je i "Watson do kapsy". Asistent by sídlil ve vašem mobilu a dával by vám odpovědi laděné na míru přímo vašim potřebám a zvykům (o něco podobného se snaží Google s Google Now a Apple se Siri).

Zatím je podle Debory Dahlové z IBM problém dostat data k Watsonovi v čitelné podobě. "Je spousta oblastí, kde Watson potřebuje znát vaši konkrétní situaci, aby vám mohl dobře poradit," řekla pro Technology Review. "Myslím, že směřujeme k systému, který bude nabízet hloubkovou analýzu i porozumění smyslu mluvené řeči."

Watson se jmenuje podle zakladatele společnosti IBM, ale většině lidí se pod tímto jménem vybaví pomocník legendárního detektiva Sherlocka Holmese. Doktor Watson skutečně v Doylových románech plnil funkci, o kterou se uchází jeho počítačový jmenovec. Odpovídá na návodné otázky, shrnuje známé informace. A dává Sherlockovi zpětnou vazbu, na základě které geniálního detektiva napadne řešení záhadného případu. Stejně tak i lékaře by mohlo napadnout kreativní rozuzlení poté, co za něj počítač odvede suchopárný výzkum.

Umělá inteligence a etika

Kdo je zodpovědný za to, když robot nabourá auto?

Ale proč by vlastně počítač rovnou neplnil funkci Sherlocka? Vždyť je k tomu "jako" dělaný. Má prakticky bezchybnou paměť, umí hledat korelace tam, kde by je nikdo nehledal, a pracuje s chladnou přesností bez ohledu na emoce nebo zdání.

A v tom je podle mého názoru jádro problému. Dokud necháme superpočítač, aby hrál roli Watsona, a budeme si vědomi jeho omezení, není se moc čeho bát. Jakmile začneme počítačům věřit natolik, že jim svěříme roli hlavního geniálního detektiva, máme problém. Sherlock je totiž tak trochu psychopat.

Právě odlidštění bychom se při řešení problémů měli bát. V tom spočívá síla i slabina počítačové analýzy. Pečlivě studujme, co tato nová technologie znamená pro naše vnímání světa. Jinak nám hrozí, že budeme řešit jen ty problémy, které počítače řešit umí. Tedy ty, které se týkají efektivity, alokace zdrojů a kvantifikovatelných korelací.

Komplexní, zašmodrchané, překvapivé, tedy jinými slovy lidské problémy by pak mohly propadnout sítem, aniž by společnost spoléhající na superpočítač hnula brvou.

Autor:
  • Nejčtenější

Rok od zkázy ponorky Titan. Vyplouvají děsivá zjištění i nové otázky

v diskusi je 111 příspěvků

20. června 2024  7:32

Před rokem, 18. června 2023, se v severním Atlantiku ztratila ponorka Titan společnosti Ocean Gate....

Zamáčknete slzu? Windows se definitivně zbavuje tří typických aplikací

v diskusi je 10 příspěvků

19. června 2024

Premium Změna je život, řekli si možná v Microsoftu. V nadcházející aktualizaci systému Windows 11 24H2 se...

{NADPIS}

{LABEL} {POPISEK}

Měnící se rotace zemského jádra vyčtená ze zemětřesení může měnit délku dnů

v diskusi je 33 příspěvků

23. června 2024

Že se od doby vzniku Země zpomaluje kvůli slapovým jevům její rotace je všeobecně známo. Již...

Jak unikli vyhynutí jediní dodnes žijící dinosauři

v diskusi jsou 3 příspěvky

22. června 2024

Dlouho byly okolnosti jejich přežití do kenozoika zahaleny závojem tajemství, v poslední době ovšem...

{NADPIS}

{LABEL} {POPISEK}

Možná jste ani netušili, že Microsoft Word umí tyto tři věci

v diskusi je 27 příspěvků

18. června 2024

Je těžké narazit na někoho, kdo by neznal Microsoft Word. Možná však bude stejně vzácné potkat...

Nastal čas rozmyslet si, zda je dost bezpečné používat klasické heslo

v diskusi jsou 3 příspěvky

25. června 2024

V digitálním světě se hesla stala klíčovým prvkem pro ochranu našich online identit a přístupu k...

Nejen Apple a Microsoft, i Google má zařízení se svou AI. A není to mobil

v diskusi jsou 3 příspěvky

24. června 2024

O generativní umělé inteligenci Gemini od Googlu se hovoří především jako systému spuštěném přes...

Měnící se rotace zemského jádra vyčtená ze zemětřesení může měnit délku dnů

v diskusi je 33 příspěvků

23. června 2024

Že se od doby vzniku Země zpomaluje kvůli slapovým jevům její rotace je všeobecně známo. Již...

Masaryk před 100 lety poprvé navštívil „svou“ Masarykovu univerzitu v Brně

v diskusi nejsou příspěvky

22. června 2024

Prezident Tomáš Garrigue Masaryk navštívil 22. června 1924 poprvé univerzitu, která nesla a stále...

Výhru ze Survivoru utratil Mikýř za rozhovor v prázdné O2 areně, vydělal miliony

Martin „Mikýř“ Mikyska (30) vytěžil své vítězství v reality show Survivor Česko & Slovensko 2024 na maximum. Povedl se...

Rok od zkázy ponorky Titan. Vyplouvají děsivá zjištění i nové otázky

Před rokem, 18. června 2023, se v severním Atlantiku ztratila ponorka Titan společnosti Ocean Gate. Pátrání potvrdilo...

Zpěvačka Katy Perry ukázala prsa. Fanoušci řeší, zda to má zapotřebí

Katy Perry (39) vydá v červenci nový singl s názvem Woman’s World, který podpoří i videoklipem. Aby řádně nalákala své...

Velká proměna Michala Davida: dvacet kilo dole. Žádné pivo, ale fitko a tenis

Michal David (63) zhubl v posledních měsících dvacet kilo a cítí se výborně. V rozhovoru pro iDNES.cz muzikant...

Příběh Vlaďky: Jsem v šoku. Manžel má milenku, je starší a ošklivější než já

Neříkám, že naše manželství nemělo žádné mouchy, ale myslela jsem si, že nám to docela klape. Pravda je ale někde...