Podle dat poskytnutých společností ESET aktivně zavádí AI nástroje do svého provozu téměř polovina (44 %) českých firem. Zároveň však celých 73 % z nich nemá žádnou funkční bezpečnostní politiku právě pro nekontrolované využívání AI nástrojů zaměstnanci mimo schválené procesy. Vzniká tak paradoxní situace: firmy sice vidí v technologii budoucnost, ale 68 % z nich otevřeně přiznává, že umělá inteligence přináší nová bezpečnostní rizika, která dosud vůbec neřeší.
Sami zaměstnanci přitom chatboty často používají skrytě. Podle průzkumů je k tomu vede buď tlak na vyšší produktivitu, strach ze zákazu moderních nástrojů, nebo paradoxně obava z vlastní zbytečnosti, pokud by přiznali, jak rychle dokáže AI jejich úkoly vyřešit.
Co hrozí, když pošlete firemní data do veřejného chatbotu?
Používání běžně dostupných cloudových chatbotů a digitálních asistentů bez dohledu IT s sebou nese obrovské riziko úniku informací. Mnoho lidí si neuvědomuje, že bezplatné verze těchto nástrojů se na zadaných datech dále učí. Cokoli do okna pro zadání (tzv. promptu) napíšete nebo nahrajete, se stává součástí cloudové databáze třetí strany.
Bezpečnostní experti proto důrazně varují před kopírováním citlivých informací do neověřených aplikací. Zaměstnanci by do veřejné AI nikdy neměli vkládat:
- klientská data a osobní údaje kolegů či zákazníků (riziko masivního porušení GDPR)
- interní zdrojové kódy, API klíče nebo přístupové údaje
- finanční výsledky, mzdy, interní strategie a obchodní nabídky
- smlouvy a jakékoli materiály chráněné doložkou o mlčenlivosti (NDA)
Pokud zaměstnanec takto neopatrně s daty naloží, právní odpovědnost za případnou škodu sice navenek vůči třetím stranám nese zaměstnavatel, ale samotný pracovník může čelit fatálním následkům. Jelikož umělá inteligence nemá právní subjektivitu, zpravidla nese odpovědnost ten, kdo ji ovládá. Zaměstnanci tak kvůli stínové AI riskují oficiální vytýkací dopis, postih za porušení pracovních povinností, vymáhání finanční škody v mezích zákoníku práce a v krajních případech i okamžitou výpověď.
Útočníci používají AI také. Ransomware se posouvá na novou úroveň
Zavádění nových technologií bez jasného řízení a dohledu je přesně to, na co kyberzločinci čekají. Že útočníci nezahálejí a AI integrovali do svého arzenálu, potvrzuje i zásadní objev z druhé poloviny roku 2025. Bezpečnostní experti ESETu tehdy odhalili malware nazvaný PromptLock.
Jedná se o vůbec první známý ransomware, který je přímo řízený generativní umělou inteligencí. PromptLock využívá lokálně dostupný jazykový model a na rozdíl od tradičního škodlivého kódu dokáže generovat nebezpečné skripty za chodu. Útok tak dokáže v reálném čase adaptovat na konkrétní prostředí oběti a sám se rozhoduje, zda nalezená data zašifruje, nebo rovnou zkopíruje a ukradne (exfiltruje). Pro hackerské gangy to znamená revoluci – nepotřebují už obří týmy drahých vývojářů, stačí jim dobře nakonfigurovaný AI model.
Co je ransomware a jak škodí. Devatero rad, jak se mu vyhnout |
ESET od počátku zdůrazňoval, že jde o akademický koncept (tzv. proof-of-concept), nikoli o potvrzený útok v ostrém provozu. I tak jde o jasný varovný signál. AI významně snižuje bariéru vstupu pro tvorbu sofistikovaného malwaru.
Zde se přitom ukazuje další rozměr firemního paradoxu. Bezpečnostní oddělení v Česku deklarují, že chtějí AI sami aktivně nasadit – největší prioritou pro více než dvě pětiny z nich je využít ji k předvídání hrozeb a rychlejší detekci útoků. Chtějí tedy technologii k obraně, ale stále nemají vyřešenou základní politiku, jak se k AI chovat uvnitř vlastní organizace.
Zákazy nefungují. Cestou jsou jasná pravidla a školení
Historie ukazuje, že plošné zákazy zaměstnanci v touze ušetřit si práci stejně obejdou, například přes soukromá zařízení. Bezpečnější cestou pro firmy je proto nastavení jasných a srozumitelných pravidel pro správu a řízení AI.
Základem úspěchu je vytvoření interní bezpečnostní politiky, která přesně definuje, které konkrétní AI nástroje jsou schválené a bezpečné, jaká data do nich smí vstupovat a jak s výstupy nakládat. Nezbytností je také důsledná klasifikace dat a implementace nástrojů pro sledování a logování toků informací, s čímž pomáhají moderní bezpečnostní platformy jako například ESET PROTECT.
Na nedávné konferenci RSAC 2026 v San Franciscu představil ESET připravované bezpečnostní funkce, které budou chránit konverzaci s AI chatboty. Nástroje mají chránit celý tok konverzace prostřednictvím skenování jak zadání (promptů), tak odpovědí, aby se snížilo riziko úniku dat a rizika související s dodržováním legislativních předpisů.
Zavádění pravidel navíc už není jen doporučením, ale legislativní nutností. Podle evropského Aktu o umělé inteligenci (AI Act) mají firmy od 2. února 2025 (čl. 4 AI Actu) povinnost zajišťovat tzv. AI gramotnost svých zaměstnanců.
Školení personálu tak už není volitelným firemním benefitem. Lidé na všech úrovních organizace musí prokazatelně rozumět tomu, jaké systémy firma používá, jaká rizika se s nimi pojí a jak s nimi pracovat tak, aby neohrozili citlivá data ani své vlastní pracovní místo.
