Pátek 31. března 2023, svátek má Kvido
  • schránka
  • Přihlásit Můj účet
  • Pátek 31. března 2023 Kvido

Chceme černou skříňku? Superchytré počítače doktory nenahradí

Superpočítač Watson od IBM radí lékařům a chystá se zvládnout právo. A to je jen začátek. Představte si, jak převrátí naruby i to vaše odvětví. Co by vám chápající a učící se počítač usnadní? A co byste mu naopak nesvěřili?

Jak se změní vidění světa, pokud na něj budeme nahlížet optikou superchytrého počítače? | foto: Profimedia.cz

Jestli ještě někdo pochyboval o tom, že sci-fi představa o vševědoucím počítači je realistická, spadla mu čelist na začátku roku 2011. Tehdy vědci z IBM fandili z publika svému stroji a sledovali, jak ve vědomostní soutěži Jeopardy (u nás Riskuj) porazil lidské mnohonásobné šampiony.

Superpočítač Watson vyhrál třídenní soutěž Jeopardy nad nejlepšími lidskými soutěžícími všech dob.

Programátoři v publiku skutečně mohli pouze fandit. I kdyby chtěli Watsonu nějak pomoci, nevěděli by zřejmě jak. Jeho učící algoritmy, procedury pro porozumění přirozené řeči a hlavně mohutná a mnohočetná analýza velkých dát už byly po dvou letech vývoje tak komplexní, že vývojáři nedokázali říci, proč Watson odpověděl tak, jak odpověděl. Stejně jako rodiče, kteří učí dítě mluvit po slovíčkách, ale stejně žasnou, když se pak dítě naučí sestavovat věty, a netuší, kde se to v něm vzalo.

Programátoři mohli počítači v předstihu pomoci s louskáním očekávatelných otázek, mohli mu nadefinovat nové kategorie a vzorce otázek, dvojsmyslů i chytáků. Ale pak už jen sledovali a doufali, že paralelní výpočty různých možností, hledání souvislostí a korelací v encyklopediích a tabulkách a závěrečné vyhodnocení miliard operací vyústí ve správnou odpověď.

Doktor Watson. Vlastně asistent Watson

Pokročilé pokusy o netriviální a učící se umělou inteligencí, mezi něž patří i projekt Watson, jsou fascinující. Mohou nám leccos říci o tom, jak funguje naše myšlení, čím se necháme zmást (vizte kognitivní omyly) a v neposlední řadě mohou umožnit lepší utřídění petabajtů informací, které se objevují každý den.

IBM už při představení Watsonu veřejnosti avizovalo, že se s tímto superpočítačem chystá na pomoc lékařům. Je to krok logický. Lékařských studií totiž vzniká mnohem více, než je běžný smrtelník schopen přečíst. Současné lékařské poznatky jsou tedy distribuovány neefektivně a trpí tím pacienti, kteří nejsou léčeni podle nejnovějších dat.

Počítač na principu Watsonu to má změnit. Pročítá miliony vědeckých studií, učí se o nových souvislostech a srovnává tyto nové poznatky se zdravotní kartou konkrétního pacienta.

Ukázka zapojení Watsona v lékařství (Zurich 2012)
Ukázka zapojení Watsona v lékařství (Zurich 2012)

Watson by měl na základě zdravotní dokumentace a aktuálních poznatků lékaři doporučit, jaké další testy by měl pacient podstoupit a jaká léčba má nejvyšší šanci na úspěch. Lékař může vložit další požadavky nebo se podívat na studie, ze kterých Watson vycházel. (Fotografie z IBM Research centra v Zurichu)

Může statistika nahradit inspiraci?

Taková je alespoň základní myšlenka. Watson má být rádce, nikoli řešitel problémů. "Watson má být asistent lékaře, proto mu také nechceme říkat doktor Watson, protože to by vypadalo, že má doktora nahradit. Ale Watson má za lékaře jen udělat namáhavou práci a rozsáhlý výzkum, nabídne možnosti a zdůvodní je," připomněl expert na velká data z IBM Dirk DeRoos (velký rozhovor s ním najdete zde).

Asistované vyhledávání souvisejících informací je evidentně prospěšné a není náhoda, že si IBM vybralo právě tuto oblast. Vědecké práce a studie jsou přece jen docela strukturované dokumenty (i když pořád ne tak strukturované, aby mohly být zpracovány strojově s naprostou jistotou) a také používání terminologie je zde relativně ustálené.

Problém by mohl nastat ve chvíli, kdy by expertní systémy byly tak rozšířené, že by na nich byla odchovaná celá generace lékařů. Podobně, jako jsme si zvykli neučit se pravopis, protože na Googlu rychle zjistíme, jestli se píše "shlédnout" nebo "zhlédnout", také doktoři by si přirozeně nechali poradit v případech, kdy dnes musejí používat paměť, a alokovali by svou pozornost jiným směrem. A Watson by se tak z asistenta stal doktorem. Chytrým rádcem, který od krále postupem času nenápadně převzal království. A nikdo by ani nevěděl, na základě čeho rádce vlastně radí.

A co teprve další generace, kdy závěry, které radí Watson, jsou používány v dalších průzkumech, ze kterých Watson čerpá? V tu chvíli už se vliv černé skříňky zacykluje a znásobuje. Těžko lze očekávat, že by výzkumníci této možnosti nevyužili. Jenže co to do budoucna znamená pro výzkum? Může klesnout kreativita, náhodné objevy nebo se zkrátka opakovat nevystopovatelná chyba. A nikdo si toho ani nevšimne.

Watson do kapsy? Nechcete rovnou Sherlocka?

IBM doufá, že systém učícího se superpočítače promění v úspěšný byznys. Jednou z vizí je i "Watson do kapsy". Asistent by sídlil ve vašem mobilu a dával by vám odpovědi laděné na míru přímo vašim potřebám a zvykům (o něco podobného se snaží Google s Google Now a Apple se Siri).

Zatím je podle Debory Dahlové z IBM problém dostat data k Watsonovi v čitelné podobě. "Je spousta oblastí, kde Watson potřebuje znát vaši konkrétní situaci, aby vám mohl dobře poradit," řekla pro Technology Review. "Myslím, že směřujeme k systému, který bude nabízet hloubkovou analýzu i porozumění smyslu mluvené řeči."

Watson se jmenuje podle zakladatele společnosti IBM, ale většině lidí se pod tímto jménem vybaví pomocník legendárního detektiva Sherlocka Holmese. Doktor Watson skutečně v Doylových románech plnil funkci, o kterou se uchází jeho počítačový jmenovec. Odpovídá na návodné otázky, shrnuje známé informace. A dává Sherlockovi zpětnou vazbu, na základě které geniálního detektiva napadne řešení záhadného případu. Stejně tak i lékaře by mohlo napadnout kreativní rozuzlení poté, co za něj počítač odvede suchopárný výzkum.

Umělá inteligence a etika

Kdo je zodpovědný za to, když robot nabourá auto?

Ale proč by vlastně počítač rovnou neplnil funkci Sherlocka? Vždyť je k tomu "jako" dělaný. Má prakticky bezchybnou paměť, umí hledat korelace tam, kde by je nikdo nehledal, a pracuje s chladnou přesností bez ohledu na emoce nebo zdání.

A v tom je podle mého názoru jádro problému. Dokud necháme superpočítač, aby hrál roli Watsona, a budeme si vědomi jeho omezení, není se moc čeho bát. Jakmile začneme počítačům věřit natolik, že jim svěříme roli hlavního geniálního detektiva, máme problém. Sherlock je totiž tak trochu psychopat.

Právě odlidštění bychom se při řešení problémů měli bát. V tom spočívá síla i slabina počítačové analýzy. Pečlivě studujme, co tato nová technologie znamená pro naše vnímání světa. Jinak nám hrozí, že budeme řešit jen ty problémy, které počítače řešit umí. Tedy ty, které se týkají efektivity, alokace zdrojů a kvantifikovatelných korelací.

Komplexní, zašmodrchané, překvapivé, tedy jinými slovy lidské problémy by pak mohly propadnout sítem, aniž by společnost spoléhající na superpočítač hnula brvou.

Autor:
  • Nejčtenější

Musk a odborníci žádají pozastavení vývoje umělé inteligence, bojí se rizik

Víc než tisíc odborníků na umělou inteligenci a další osobnosti z technologické oblasti včetně Elona Muska žádají v...

Tyto zvuky znal dříve každý. Poznáte starou techniku pouhým poslechem?

V době, kdy se ve většině elektroniky pohybují maximálně ventilátory, to může někoho překvapit, ale většina...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Družice Starlink ruší snímky Hubbleova teleskopu, to nejhorší teprve přijde

Projekt družic Starlink, které poskytují internetovou konektivitu z vesmíru, už od začátku budí vášně a znepokojena je...

Noční obloha ukáže hned pětici planet seřazených do oblouku

V úterý večer se má podle astronomů objevit na obloze jeden ze zajímavých úkazů letošního roku. Planety Merkur, Venuše,...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Ušetřili jsme balík. Šest tipů, jak šikovně využít starý telefon

Průměrně lidé mění chytrý telefon zhruba po necelých čtyřech letech provozu. Mnohé přístroje pak roky leží v šuplíku,...

Starý dům už neprodáte. Unijní směrnice ale může být protiústavní, tvrdí právníci

Premium Zateplování, výměna kotle i oken, solární panely na střechu… Nechcete starý dům opravovat „po evropsku“? Rychle se jej...

Přežila Terezín i Osvětim. Bůh není, takové utrpení by nedopustil, říká

Premium Měla si užívat bezstarostné mládí, namísto toho si musela na kabát přišpendlit židovskou hvězdu. V 15 letech ji...

Hokej se změnil v jatka. Píše o nich i Wikipedie, extraliga se styděla

Premium Jen co se ve zlínském kamrlíku pro rozhodčí potkal Roman Polák s kolegy, hned měli jasno: „Pánové, dnes to může být...

Jméno tohoto elegantního sauropoda si asi nezapamatujete

Jmenuje se Opisthocoelicaudia skarzynskii a k tomuto těžko vyslovitelnému a ještě hůře zapamatovatelnému názvu se tento...

V Japonsku nesmíte selhat. Velká chyba je stěžovat si. Vědkyně o práci v ocelárně

Premium Sedm let studovala a pracovala v Japonsku, dostala se do výzkumného centra jedné z největších oceláren světa. „Zažila...

Jak se měnily odhady stáří Země od Písma svatého po radiometrické datování

Dějiny odhadů stáří naší planety jsou velmi zajímavým příběhem. Pohlížíme-li na tuto historii jako na kuriózní přehled...

Expert: V modulárních reaktorech předběhly Čína s Ruskem západní výrobce

Vysíláme Česko by mohlo mít do jedenácti let první malý modulární jaderný reaktor, ryze český pak do dvanácti let. Jeho první...

Horníci leželi na pokojích na břichu. Skrývali erekci. A zrodila se viagra

Modrá pilulka slaví pětadvacet let. Spustila svého druhu kulturní i farmaceutickou revoluci, preformátovala vnímání...

Rozjívené fracky tu nechceme. Kde končí svoboda dětí ve veřejných prostorách?

Vlnu vášní vyvolalo vyjádření pražského bistra, které na sociálních sítích publikovalo pravidla, jak se mají chovat...

Paltrowová si po srážce na lyžích myslela, že jde o sexuální útok

Herečka Gwyneth Paltrowová (50) v pátek opět vypovídala před soudem v případu údajného neposkytnutí první pomoci...

Budu ukazovat nohy i výstřih. Nejsem jeptiška, reaguje na kritiku Burešová

Herečka a zpěvačka Eva Burešová (29) se stala terčem kritiky některých uživatelů Instagramu. Ti jí v negativních...

ČNB se propadla do obří ztráty 412 miliard, za rok je jedenáctinásobná

Česká národní banka (ČNB) loni vykázala rekordní ztrátu 411,9 miliardy korun. V roce 2021 měla ztrátu 37,7 miliardy...