Podle kyberbezpečnostní společnosti má umělá inteligence (AI) potenciál stát se transformativní technologií, která může výrazně ovlivnit každodenní život.
„AI již ukázala svůj potenciál a může způsobit revoluci v mnoha oblastech, jako jsou zdravotnictví, finance, doprava a další. Dokáže automatizovat nudné úkoly, zvýšit efektivitu a poskytnout informace, které dříve nebyly možné. AI nám také může pomoci řešit složité problémy, lépe se rozhodovat, omezit lidské chyby nebo by si mohla poradit s nebezpečnými úkoly, například zneškodnit bombu, letět do vesmíru nebo zkoumat oceány,“ uvedl dále IT expert Pavel Krejčí.
Vývoj kybernetických hrozeb
Zároveň však upozornil, že masivní použití AI technologií vede i k vývoji kybernetických hrozeb. Celkově lze podle odborníka říci, že rozvoj AI není jen dalším přechodným šílenstvím, ale teprve se ukáže, jak velký dopad bude mít na společnost.
Ačkoli se umělá inteligence používá již dlouho, rok 2023 si veřejnost bude experta pamatovat jako „rok AI“. „Je důležité si uvědomit, že kolem této technologie je hodně povyku a některé společnosti mohou přehánět. Je potřeba mít realistická očekávání a nevnímat AI jako automatický všelék na problémy světa,“ vysvětluje Check Point Software Technologies v tiskové zprávě.
Umělá inteligence se díky magnetické rezonanci naučila číst myšlenky |
V ní současně stojí, že jsou často slyšet obavy, jestli se AI nepřiblíží lidským schopnostem, nebo je dokonce nepřekoná. Předpovídat však, jak vyspělá AI bude, je podle odborníků těžké, ale už nyní existuje několik kategorií.
Současná AI se označuje jako úzká nebo „slabá“ AI (ANI – Artificial Narrow Intelligence). Obecná AI (AGI – Artificial General Intelligence) by měla fungovat podobně jako lidský mozek, myslet, učit se a řešit úkoly jako člověk. Poslední kategorií je superinteligence (ASI – Artificial Super Intelligence) a v podstatě jde o stroje, které jsou chytřejší než lidé.
Mohla by jednat sama za sebe
Pokud umělá inteligence dosáhne úrovně AGI, existuje podle IT odborníků riziko, že by mohla jednat sama za sebe a potenciálně se stát hrozbou pro lidstvo. Proto je potřeba pracovat na sladění cílů a hodnot AI s cíli a hodnotami člověka.
„I když AI může vzbuzovat obavy, je důležité si uvědomit, že vývoj pokročilé AI přináší mnoho výhod a může pomoci vyřešit některé z nejpalčivějších světových problémů, jako jsou změna klimatu, nemoci nebo chudoba,“ doplnil Krejčí.
Pro zmírnění rizik spojených s pokročilou AI je podle jeho slov důležitá spolupráce vlád, společností a regulačních orgánů a vývoj robustních bezpečnostních mechanismů, stanovení etických zásad a podpora transparentnosti a odpovědnosti při vývoji AI.
Umělá inteligence pozná alzheimera z řeči. Usnadní testování, věří neurolog |
„V současné době existuje minimum pravidel a předpisů. Existují návrhy jako zákon o umělé inteligenci, ale nic z toho nebylo dosud schváleno a v podstatě se zatím vše řídí etickými kompasy uživatelů a vývojářů. Společnosti, které vyvíjejí a vydávají AI systémy, by měly v závislosti na typu AI zajistit alespoň minimální standardy, jako je ochrana soukromí, spravedlnost, vysvětlitelnost nebo přístupnost,“ podotkl dále Krejčí.
Odborník současně upozornil na další nebezpečí. Umělou inteligenci mohou totiž využít i kyberzločinci pro zdokonalování svých útoků, automatizované identifikaci zranitelných míst, vytváření cílených phishingových kampaní, sociálnímu inženýrství nebo vytváření pokročilého malwaru, který zvládne měnit svůj kód a lépe se tak vyhne detekci.
Blokování má omezený účinek
Mimo jiné může být zneužita ke generování přesvědčivých audio i video deepfake podvodů, které mohou být podle odborníků použity k politickým manipulacím, falešným důkazům v trestních řízeních nebo mohou oklamat uživatele a vylákat z nich peníze.
„V poslední době se také diskutují různé zákazy a omezení AI. V případě ChatGPT jsou obavy spojené zejména s ochranou soukromí, jelikož jsme už byli svědky úniku dat, není ani vyřešena věková hranice uživatelů. Blokování podobných služeb má ovšem jen omezený účinek, protože každý jen trochu zdatnější uživatel zvládne zákaz obejít například pomocí VPN, čile se obchoduje také s kradenými prémiovými účty,“ vysvětlil dále Krejčí.
Vyvíjel umělou inteligenci pro Google. Teď odešel, aby před AI varoval |
Problémem podle něj je v tom, že většina uživatelů si neuvědomuje, že citlivé informace vkládané do ChatGPT budou v případě úniku velmi cenné a mohly by být použity k cíleným marketingovým účelům. „Mluvíme o potenciální sociální manipulaci v dosud nevídaném měřítku,“ dodal IT odborník s tím, že dopad umělé inteligence na společnost bude záviset na tom, jak se rozhodne technologii rozvíjet a používat.
