Vývojáři služeb, které generují texty či obrázky na základě zpracování obrovského množství dat, by měli v Číně poskytovat úřadům bezpečnostní hodnocení svých produktů, než k nim dostane přístup široká veřejnost. Návrh regulace generativní umělé inteligence připravil čínský úřad pro správu kyberprostoru (CAC). Podle agentur Reuters a AFP také požaduje, aby výstupy těchto technologií odpovídaly „socialistickým hodnotám“.
Peking se podobně jako vlády jinde ve světě snaží reagovat na rychlý rozmach programů, jako jsou ChatGPT nebo Midjourney, které na základě jednoduchých pokynů vytvářejí sofistikované textové či obrazové materiály. Vývoj provází obavy ohledně netransparentnosti těchto programů nebo jejich možného využití k podvodům, jakož i varování před potenciálně katastrofálními dopady technologie na lidstvo.
Úřad CAC uvedl, že Čína využívání umělé inteligence podporuje, chce ovšem zajistit její „zdravý“ rozvoj. Mimo jiné požaduje, aby vývojáři nesli zodpovědnost za „legitimitu“ dat použitých ke zdokonalení jejich modelů a aby při vývoji algoritmů a sestavování tréninkových dat činili kroky pro prevenci diskriminace.
„Předtím, než jsou služby využívající generativní umělou inteligenci poskytnuty veřejnosti, by se mělo žádat o bezpečnostní inspekci u úřadů pro regulaci internetu,“ cituje z návrhu AFP. Podle agentury se pravidla týkají nástrojů vyvinutých v Číně. Reuters uvádí, že návrh v případě porušení pravidel počítá se zablokováním dané služby nebo s možností trestního vyšetřování.
Umělá inteligence si sama najala člověka, aby vyřešil její problém |
Mezi publikovanými podmínkami je i ta, aby materiály vytvořené umělou inteligencí „odrážely základní socialistické hodnoty“ a nezahrnovaly obsah „spojený s podvracením státní moci“. Konkrétně návrh hovoří o teroristické či extremistické propagandě, rasové nesnášenlivosti a o „jiném obsahu, který by mohl narušit ekonomický a sociální řád“.
Alibaba „hledá odpovědi pomocí tisíce otázek“
Regulační iniciativa přichází poté, co čínští technologičtí giganti představili vlastní modely generativní umělé inteligence, které mohou tvořit kostru chatovacích programů nebo generátorů obrázků. Vedle vyhledávače Baidu se novou technologií pochlubil i konglomerát Alibaba, jenž tento týden představil svého chatbota poháněného generativní umělou inteligencí, který se podobá aplikaci ChatGPT vyvinuté společností OpenAI. Alibaba se chystá v blízké budoucnosti nástroj generativní umělé inteligence zapojit do jednotlivých oblastí působnosti společnosti. Chatbot se nazývá Tongyi Qianwen, což podle serveru BBC zhruba znamená „hledání odpovědi pomocí tisíce otázek“.
Alibaba nástroj nejprve integruje do aplikace DingTalk, která slouží k zasílání zpráv na pracovištích firmy. Pomáhat v tomto případě bude ve shrnování poznámek z jednání, psaní e-mailů a přípravě obchodních návrhů. Přibude také do aplikace Tmall Genie, což je hlasový asistent čínské společnosti.
Umělá inteligence nás před fake news nemusí ochránit. Někdy problém i zhorší |
Svým klientům plánuje chatbot Tongyi Qianwen zpřístupnit i cloudová divize firmy. Zákazníci Alibaba Cloud si tak budou moci vytvořit vlastní velké jazykové modely na míru. Podle Alibaby dokáže nástroj pracovat v čínštině i v angličtině.
„Nacházíme se v technologicky přelomovém okamžiku, který pohání generativní umělá inteligence a cloud computing,“ uvedl v prohlášení generální ředitel firmy Daniel Zhang.
Od loňského listopadu, kdy OpenAI představila ChatGPT, uvedla jeho alternativy řada dalších firem, mimo jiné Google či čínská technologická firma Baidu.
Společnost Microsoft zapojila technologii do svého vyhledávače Bing. Na vývoj ChatuGPT firma přispěla miliardami dolarů. Chatbota se Microsoft chystá zapojit do svých aplikací Office.
Americká investiční banka Goldman Sachs předminulý týden ve zprávě napsala, že generativní umělá inteligence by mohla ve světě nahradit člověka na 300 milionech pracovních míst. Ekonomové banky rovněž tvrdí, že by technologie mohla proměnit produktivitu a ekonomický růst.
Itálie na konci března jako první stát nařídila provozovateli chatovacího robota ChatGPT, aby uživatelům z této země od soboty znemožnil ke službě přístup. Řím přitom argumentoval ochranou osobních údajů.
Evropská unie připravuje harmonizovaná pravidla pro umělou inteligenci, která mají mimo jiné zajistit, aby systémy UI, které budou uváděny na trh Unie a používány, byly bezpečné a v souladu se stávajícími právními předpisy o základních právech a hodnotách EU.
