Matka v domácnosti Vivian Lyuová před dvěma lety představila své tehdy pětileté dceři aplikaci Doubao umožňující vytvořit si personalizovaného virtuálního společníka, se kterým mohl člověk pravidelně komunikovat podobně jako s kamarádem.
„Když máte pocit, že nemáte jinou možnost, použijete Doubao,“ řekla. Postupem času ale podle ní její dcera začala vyžadovat aplikaci namísto aktivit, jako je kreslení nebo hraní si s ostatními dětmi. „Doufám, že od útlého věku pochopí, že tyto elektronické produkty nebo všechny ty věci související s AI jsou jen nástroje,“ zmínila matka.
Čína se momentálně potýká s problémem, zda častá a intenzivní komunikace s chatboty nezačne nahrazovat kontakt s ostatními lidmi. Průzkum čínského výzkumného centra pro děti a mládež z roku 2025, do něhož se zapojilo více než 8 500 nezletilých, ukázal, že více než pětina respondentů chtěla komunikovat pouze s AI a nechtěla mluvit se skutečnými lidmi.
Náhražka mezilidských vztahů
„Strana si uvědomuje, že čím více bude tuto technologii rozvíjet, tím více bude muset čelit společenským výzvám,“ uvedl pro americký list The New York Times Scott Singer, expert na čínskou AI politiku z think-tanku Carnegie Endowment for International Peace.
Strana je podle jeho mínění obzvlášť obezřetná v oblastech, kde má pocit, že by technologický pokrok mohl zásadně narušit společenskou stabilitu. Podle Singera jde především o pracovní trh, na kterém může umělá inteligence postupně nahrazovat část lidské práce, a také o mezilidské vztahy.
Když na své děti nemáte čas. Umělá inteligence v Číně pronikla i do vzdělávání |
Mnozí čínští občané jsou také unavení z toho, že je technologie všudypřítomná. „Je to jako manželství, ve kterém svého partnera proklínáte, ale nemůžete od něj odejít,“ uvedla pro americký list grafická designérka Sie Tchungová. Ačkoliv sama při práci umělou inteligenci používá, vadí jí, že na ni naráží prakticky všude, od reklam v metru až po výstupy externích spolupracovníků její agentury, kteří se podle ní na AI zjevně spoléhají.
Od hospitalizace ke zničené úrodě
Čínská média také v posledních měsících zaznamenala rostoucí počet případů, kdy lidé slepě důvěřovali doporučením umělé inteligence. Americký list připomněl, že v srpnu uvázl turista na vrcholu hory poté, co se řídil instrukcemi vygenerovanými umělou inteligencí a vyrazil nedostatečně vybavený.
Během léta se také několik lidí otrávilo jedovatými houbami, které AI chybně označila za jedlé. Mezi nimi byl i devítiletý chlapec, který utrpěl akutní selhání jater a osm dní strávil na jednotce intenzivní péče.
Umělá inteligence přikrmuje čínský obchod. Prodej čipů se zdvojnásobil |
Slepá důvěra v AI se nevyplatila ani sedmašedesátiletému zemědělci z východočínské provincie An-chuej, kterému umělá inteligence navrhla nevhodný herbicid. Muž následně přišel o zhruba deset hektarů sezamových sazenic v hodnotě 150 tisíc jüanů (480 000 Kč).
Kritiku ale vyvolávají i takzvaná mikrodramata vytvořená umělou inteligencí. Podle vládních údajů vzniklo pomocí AI v prvních osmi měsících roku více než 90 procent z přibližně 430 tisíc zveřejněných mikrodramat, tedy krátkých seriálů určených především pro mobilní telefony. Kritici jim vyčítají nízkou kvalitu, zaměnitelné postavy a také to, že levná automatizovaná produkce může nahrazovat práci lidských tvůrců.
Stát nastavuje mantinely
Peking zavádí omezení postupně. V červenci začala platit pravidla pro AI společníky, podle nichž mají platformy zasáhnout, pokud uživatel vykazuje známky nezdravé závislosti nebo naznačuje sebepoškozování či sebevražedné úmysly.
Zároveň zakázal virtuální vztahy mezi chatboty a nezletilými, což vedlo společnost ByteDance k vypnutí funkce personalizovaných AI společníků v aplikaci Doubao.
VIDEO: Všude létaly jiskry. Robot trénoval na závody a v plné rychlosti narazil do zdi |
Stát zároveň vydává i širší regulační a soudní pokyny pro používání AI. Nejvyšší lidový soud například v září vydal pokyny pro řešení sporů souvisejících s AI, které se týkají mimo jiné klonování hlasu, deepfake obsahu nebo vytváření či pozměňování důkazních materiálů pomocí umělé inteligence.
Pokud účastníci řízení předkládají soudu podání či jiné materiály vytvořené s pomocí AI, musí předem ověřit jejich správnost a zároveň uvést, že umělou inteligenci použili, uzavřel americký portál.
