V polovině května postoupila Evropská unie o výrazný krok ve snaze připravit pravidla pro provoz a využívání nástrojů umělé inteligence. Evropská unie je tak v tomto ohledu jedna z mála, kdo se regulací umělé inteligence zabývá již nějakou dobu. První diskuze proběhla před sedmi lety a postupně vyústila v návrh harmonizovaných pravidel o umělé inteligenci zkráceně nazývané AI Act. V té době však ještě nikdo netušil, jak výrazný vliv bude mít nástup generativní umělé inteligence.
Výbor pro vnitřní trh a Výbor pro občanské svobody tak 11. května odsouhlasily návrh legislativy, který se generativní umělou inteligencí již zabývá. V návrhu se o ní hovoří jako o GPAIS (General Purpose AI System). Na zasedání v červnu přijme svůj postoj plénum Evropského parlamentu. Dalším krokem pak bude jednání s členskými zeměmi o finálním znění pravidel.
Velký bratr versus Terminátor. EU se snaží dohnat a svázat umělou inteligenci |
I když je EU poměrně daleko s projednáváním svého právního rámce na regulaci AI, není sama. Řada států po tom volá na národní i mezinárodní úrovni. Mělo by se tak zabránit krokům, jako byl ten, který na začátku dubna udělala Itálie, jež jako první na světě zakázala používání chatovacího robota ChatGPT kvůli obavám z porušování ochrany osobních údajů. Ke konci dubna ho opět povolila.
Riziky AI už se začal zabývat britský úřad pro hospodářskou soutěž. Francouzský parlament naopak v březnu schválil kontroverzní novelu zákona o používání AI k bezpečnostnímu monitoringu v souvislosti s pořádáním letních olympijských her v příštím roce v Paříži. Po regulaci už volá také Španělsko, Irsko, Austrálie či Japonsko. V USA se Národní institut pro standardy a technologie ve spolupráci s odborníky snaží přijít s normami, jak by tyto systémy měly být navrženy, testovány a nasazeny. Obecně většinu vlád příchod tohoto typu systémů strojového učení zastihl nepřipravenou, ostatně stejně jako většinovou veřejnost.
Právě EU AI Act by se mohl stát inspirací i pro další státy mimo EU, jak s umělou inteligencí nakládat. Samozřejmě se především v těch autoritativních bude klást důraz na jiné hodnoty. Například Čína se chystá regulovat umělou inteligenci, aby „výstupy těchto technologií odpovídaly socialistickým hodnotám“.
Čína nespí, vyvíjí konkurenci pro ChatGPT a chce regulaci umělé inteligence |
Evropské orgány navrhují klasifikaci různých nástrojů umělé inteligence podle vnímané míry rizika, od nízké po nepřijatelnou. Například nejvyšší nepřijatelné riziko bude zahrnovat všechny systémy umělé inteligence považované za jasnou hrozbu pro „bezpečnost, život a lidská práva“.
Jako příklad je uváděno třeba sociální bodování občanů vládami nebo hračky s hlasovým asistentem, který podporuje nebezpečné chování. Problémy také budou mít systémy, které používají podprahové nebo záměrně manipulativní techniky zneužívající zranitelnosti lidí. Europoslanci chtějí výslovně zakázat rozpoznávání emocí, profilování s pomocí AI k policejním účelům nebo zneužívání biologických údajů ze sociálních sítí.
Jednotlivé stupně posuzovaných rizik umělé inteligence v AI Act Evropské unie
Vlády a společnosti využívající tyto nástroje umělé inteligence budou mít v závislosti na míře rizika různé povinnosti. Zákon je rozsáhlý a bude se vztahovat na každého, kdo poskytuje výrobky nebo službu využívající umělou inteligenci.
Členové příslušných výborů navrhli také zahrnout povinnosti pro poskytovatele služeb AI a zajistit bezpečnost, zdraví lidí a respektování zákonů. Povinná by podle nich měla být i registrace v databázi EU.
Bude to stačit?
Obecně se může zdát, že regulace umělé inteligence není v principu možná, protože s jejím rozvojem bude stále složitější kontrola fungování samotných systémů, když již nyní tvůrci umělé inteligence uvádějí, že nelze přesně vysvětlit a předpovědět, jak konkrétní zadání povede ke konkrétnímu výstupu.
Vedle různých omezení, která mohou ve svém konečném důsledku vést ke zpomalení vývoje, je důležité také myslet na stanovení standardů pro bezpečnostní procesy. Především bude potřeba zvýšit transparentnost fungování modelů tak, aby je mohly kontrolovat i nezávislí odborníci. Tím by se podařilo i snížit obavy způsobené na první pohled neprůhlednou technologií.
Jak chtějí státy regulovat umělou inteligenciAustrálie hledá podněty k regulaci. Vláda požádala hlavní australský poradní orgán pro vědu o radu, jak reagovat na AI, a zvažuje další kroky, uvedl 12. dubna mluvčí ministra průmyslu a vědy. Británie v březnu uvedla, že plánuje rozdělit odpovědnost za regulaci UI mezi své regulační orgány pro lidská práva, zdraví a bezpečnost a hospodářskou soutěž, místo aby vytvořila nový orgán. Čínský regulátor kyberprostoru již představil návrh opatření pro řízení generativních služeb AI a uvedl, že chce, aby firmy předkládaly úřadům bezpečnostní hodnocení předtím, než spustí nabídky pro veřejnost. Čína vytvořila alianci generativních předtrénovaných transformátorů neboli GPT, jejímiž účastníky jsou mimo jiné společnosti China Mobile a China Unicom. Aliance se bude zabývat podporou inkluzivních a bezpečných technologií umělé inteligence a bude usilovat o propojení vlády, akademické sféry a průmyslu. Evropská unie připravuje zákon o regulaci umělé inteligence, kterým se bude řídit každý, kdo poskytuje produkt nebo službu využívající umělou inteligenci. Zákonodárci navrhli klasifikovat různé nástroje AI podle vnímané míry rizika, od nízké po nepřijatelnou. Mezitím 12 zákonodárců EU vyzvalo světové lídry, aby uspořádali summit, na kterém by se našly způsoby, jak kontrolovat vývoj pokročilých systémů umělé inteligence, a uvedli, že se vyvíjejí rychleji, než se očekávalo. Evropský sbor pro ochranu osobních údajů, který sdružuje evropské národní orgány pro ochranu soukromí, uvedl, že zřídil pracovní skupinu pro ChatGPT, což je potenciálně důležitý první krok k vytvoření společné politiky pro stanovení pravidel ochrany soukromí v oblasti UI. Francie vyšetřuje možná porušení předpisů po stížnostech na ChatGPT poté, co byl ChatGPT v Itálii dočasně zakázán kvůli podezření z porušení pravidel ochrany soukromí. Francouzské Národní shromáždění v březnu schválilo používání videodohledu s umělou inteligencí během olympijských her v Paříži v roce 2024, přičemž přehlédlo varování skupin na ochranu občanských práv, že tato technologie představuje hrozbu pro občanské svobody. Irsko nyní hledá podněty k předpisům, které mají regulovat generativní umělou inteligenci, jako je ChatGPT. „Řídící orgány musí přijít na to, jak to udělat správně, než se vrhnou do zákazů, které opravdu neobstojí,“ řekl agentuře Reuters irský šéf pro ochranu osobních údajů. Itálie na měsíc zakázala přístup k ChatGPT. Španělsko vyšetřuje možná porušení předpisů na ochranu údajů ze strany ChatGPT. Zároveň požádalo unijní úřad pro ochranu soukromí, aby posoudil obavy o ochranu osobních údajů. Zdroj: Reuters |
