AI Smishing Checker
Tytam jsou doby, kdy stačilo nebýt hloupý a zprávy typu „Drahoušek zákazník, tato is tvuj funkcionár oznámení dle Ceská Sporitelna...“ mazat a ignorovat. Dnes mají útočníci k dispozici nástroje umělé inteligence a tak jsou schopni snadno a rychle generovat zprávy, které nemusí na první i druhý pohled poznat ani velmi opatrný čtenář.
Typickým příkladem je podvržená zpráva o doručení zásilky, která už podle zprávy čeká v distribučním skladu a od doručení vás dělí pouze rychlé vyplnění formuláře, nebo zaplacení drobného poplatku. Jenže kliknete na odkaz, otevře se podvržený web a za pár chvilek je na malér zaděláno.
Rozesílání podvodných textových zpráv se nazývá „smishing“.
V redakci jsme vyzkoušeli novou českou aplikaci „AI Smishing Checker“. Funguje jednoduše. Dorazí vám zpráva u které si nejste jistí, zda to není podvod. Zkopírujete ji do schránky (Android i iOS), nebo sdílíte do aplikace (Android) a necháte ji analyzovat. Během pár sekund dostanete odpověď – jednak verdikt (bezpečná, zachovejte opatrnost, podezřelá, nebezpečná), jednak vysvětlení, jak k takovému závěru došel.
Protože jsme nikde nenašli, co aplikace s nahranou zprávou doopravdy dělá a protože navíc hned náš první test – reálnou zprávu od GLS k balíku, který jsem si již vyzvedl, označil jako nebezpečnou – nedopadl slavně, sešli jsme se v redakci s tvůrci aplikace a vyptali se, jak se věci mají.
Vytrénovaný model a spousta věcí okolo
Do aplikace vložená zpráva se odešle na backend služby, které běží v cloudu na serverech Microsoftu. Tam je zpráva prozkoumána jejich vlastním vytrénovaným modelem vycházejícím z ChatGPT a prověřuje se při tom mnoho detailů, které mohou podvrh naznačit. Systém zároveň ověří, zda takovou nebo velmi podobnou zprávu už nemají v databázi, proti databázím ověří telefonní číslo a pokud je ve zprávě odkaz, v bezpečném sandboxu jej otevře a analyzuje.
Podle Jana Lavičky z AI Security Systems, kteří za aplikací stojí, nebylo nejtěžší naučit systém rozpoznat nebezpečné zprávy. Mnohem složitější jej bylo správně naučit rozpoznat ty, které nebezpečné nejsou. Aktuálně podle tvůrců správně rozpozná zhruba 99 procent nebezpečných a podezřelých zpráv a zhruba 95 procent bezpečných zpráv.
A v těchto pěti procentech byla i ta naše chybně detekovaná legitimní zpráva.
AI Smishing Checker
Důvod se dozvíte ve vysvětlení. URL totiž vypadá, jako by chtělo napodobit oficiální web společnosti GLS. Právě takovéto „logické“ modifikace jsou u podvržených odkazů nejčastější, protože například „ppl-zasilka.cz“ svítí určitě mnohem méně, než třeba „ghzrtts.datamining.ru“. Je zřejmé, že určitou adresní hygienu by měly společnosti dodržovat.
Podvržený web pak může vypadat stejně jako ten oficiální, jen budou vhodně upravené platební údaje, nebo přesměrované formuláře.
I v případě zpráv, které se zdají být v pořádku, ale není to stoprocentní, umí aplikace poradit. Třeba vyzve ke kontrole čísla účtu.
AI Smishing Checker
A takto to vypadá, když zprávu vyhodnotí jako bezpečnou a zároveň uživatele ujistí, že je bezpečný i odkaz a co má po jeho rozkliknutí čekat.
AI Smishing Checker
Zádrhel může nastat pokud systém narazí na ochranu proti botům – aplikace napíše, že z tohoto důvodu nemohla odkaz zkontrolovat.
Protože podivné zprávy, které mi dorazí, okamžitě mažu, nemám k dispozici dostatek příkladů podvodných zpráv. Zajímavé příklady útoků, které v poslední době proběhly v ČR, mi tak zprostředkoval Ján Lavička z AI Security Systems.
Prohlédnout si je můžete v další kapitole.
