Jak lze počítačové vidění použít k detekci phishingových útoků?

Vzestup platforem umělé inteligence, jako je ChatGPT, způsobil, že se technologie dostala do veřejné sféry. Ať už to milujete, nenávidíte to nebo se toho bojíte, AI tu zůstane. Ale umělá inteligence představuje víc než jen chytrého chatbota. V zákulisí se používá mnoha inovativními způsoby.

Jedním z takových způsobů je použití počítačového vidění (CV) s umělou inteligencí jako další vrstvy kybernetické bezpečnosti. Pojďme se podívat, jak CV pomáhá proti phishingovým útokům.

Co je počítačové vidění?

Počítačové vidění je svou koncepcí podobné velkým jazykovým modelům, jako je GPT-4. Nástroje jako ChatGPT a Bing Chat využívají tyto obrovské textové databáze ke generování lidských odpovědí na uživatelské vstupy. CV používá stejný koncept pouze s masivním úložištěm obrazových dat.

Ale CV je složitější než jen mít obrovskou databázi vizuálů. Kontext je kritickým faktorem, který je třeba zahrnout do rovnice.

The velké jazykové modely za AI chatboty fungují pomocí hlubokého učení pochopit faktory, jako je kontext. Podobně CV využívá hluboké učení k pochopení kontextu obrázků. Dalo by se to popsat jako lidské vidění při počítačových rychlostech.

Jak ale CV pomáhá odhalit phishingové útoky?

Jak se počítačové vidění používá k detekci phishingových útoků

Phishingové útoky jsou jednou z největších taktik kybernetické bezpečnosti, kterou používají podvodníci. Tradiční metody jejich odhalování nejsou zdaleka dokonalé a hrozby jsou stále sofistikovanější. CV si klade za cíl zablokovat jednu ze známých zranitelností – tu čas. Přesněji řečeno, spoléhání se na černé listiny „tradičnějších“ metod.

Problém je v tom, že udržovat černé listiny aktuální je problematické. I několik hodin mezi spuštěním phishingového webu a jeho zařazením na černou listinu je dostatečně dlouhá doba na to, aby došlo k mnoha škodám.

Životopis nespoléhá na černé listiny ani nedetekuje vložený škodlivý kód. Místo toho používá několik technik k označení podezřelých položek.

1. Obrázky jsou shromažďovány z relevantních e-mailů, webových stránek nebo jiných zdrojů, které mohou obsahovat hrozby. Ty jsou následně zpracovány pomocí počítačového vidění.
2. Fáze zpracování obrazu zkoumá čtyři hlavní prvky: detekce loga/ochranné známky, detekce objektu/scény, detekce textu a vizuální vyhledávání.
3. Ty se kontrolují pomocí procesu zvaného „Agregace rizikových prvků“ a výsledky označují podezřelé položky.

Podívejme se blíže na to, jak CV nachází vodítka v prvcích, které zkoumá.

Detekce loga/ochranné známky

Spoofing značky je běžná technika používaná podvodníky. Computer Vision je naprogramován tak, aby detekoval loga, která podvodníci běžně používají, ale také dokáže spojit tyto informace s obsahem a prioritou e-mailu.

Například e-mail označený jako urgentní s logem banky může být označen jako potenciálně podvodný. Může také zkontrolovat pravdivost loga oproti očekávaným výsledkům z úložiště dat CV.

Detekce objektů

Podvodníci často převádějí objekty, jako jsou tlačítka nebo formuláře, na grafiku. To se provádí pomocí různých grafických a kódových technik určených k „zabahnění vod“. Kromě toho lze šifrované skripty použít k provádění akcí, jako je vytváření formulářů, ale pouze po vykreslení e-mailu nebo webové stránky.

Detekce objektů hledá vizuální vodítka po vykreslení webové stránky nebo e-mailu. Dokáže detekovat objekty jako tlačítka nebo formuláře i v grafickém formátu. Také proto, že se kontroluje po vykreslení e-mailu nebo webové stránky, jsou kontrolovány šifrované prvky.

Detekce textu

Podobně lze text maskovat pomocí řady technik. Mezi oblíbené taktiky používané podvodníky patří:

• Vyplnění slov náhodnými písmeny, která jsou odstraněna při vykreslování stránky nebo e-mailu.
• Maskování slov jejich překlepem. Běžným příkladem je přihlášení, které lze snadno zamaskovat přepnutím L za velké I jako v —Iogin. Můžeš řict?
• Převod textu na grafiku.

CV může používat textovou analýzu (trochu jako optické rozpoznávání znaků, ale na steroidech!) k detekci spouštěcích slov, jako je heslo, podrobnosti o účtu a přihlašovací jméno. Opět, protože běží po vykreslení, veškerý text lze zachytit a naskenovat.

Vizuální vyhledávání

I když je to součást sady nástrojů pro ochranu před phishingem v životopisech, funguje to na referenčních datech. Proto je pouze tak dobrý, jak dobrá jsou data, která má v záznamech. Díky tomu má stejnou Achillovu patu jako jakýkoli jiný systém, který se spoléhá na černou listinu.

Funguje tak, že v databázi obrázků drží „šablonu“ známých dobrých obrázků (KGI) a známých špatných obrázků (KBI). Tyto informace pak mohou být použity k provádění srovnání za účelem zjištění anomálií.

Je Computer Vision samostatným systémem ochrany proti phishingu?

Krátká odpověď je "ne." V současné době CV působí jako další vrstva zabezpečení a je pouze schůdnou možností pro komerční podniky.

Pro tyto podniky však CV přidává novou vrstvu zabezpečení, která dokáže skenovat objekty v reálném čase bez spoléhání se na černé listiny nebo detekci kódovaných hrozeb. A v probíhajících závodech ve zbrojení mezi podvodníky a bezpečnostními profesionály to může být jedině dobře.

Když se podíváme do budoucna, náhlý a meteorický vzestup chatbotů poháněných umělou inteligencí, jako je ChatGPT, ukazuje, jak obtížné jsou předpovědi při diskusi o jakékoli formě umělé inteligence. Ale i tak to zkusme!

Jaká je budoucnost počítačového vidění jako anti-phishingové zbraně?

I když je nepravděpodobné, že by to mělo stejný dramatický dopad jako chatboty s umělou inteligencí, CV anti-phishing již dosahuje stabilního pokroku na koncept známý jako křivka přijetí technologie.

Není to tak dávno, co byla technologie doménou větších podniků, které měly síťovou infrastrukturu a šířku pásma, aby ji mohly provozovat jako cloudové řešení nebo jako službu na místě.

To už neplatí.

Praktičtější předplatné služby se nyní otevírají podnikům jakékoli velikosti. Ve věku cloud computingu je stejně důležitá schopnost chránit jakékoli zařízení z jakéhokoli místa. Toto je nyní možnost u mnoha služeb.

Pokud však chcete toto přidat do svého domácího počítače, není to zatím reálná možnost. "Ještě" je zde kritické slovo. Exponenciální nárůst sofistikovanosti a dostupnosti modelů AI téměř jistě přinese tuto funkci domácímu uživateli.

Jedinou skutečnou otázkou je kdy.

Počítačové vidění: Vidět chrání

Umělá inteligence byla v poslední době hodně ve zprávách a do popředí zájmu se dostaly platformy jako ChatGPT, Bing Chat a Google Bard. Jsou to rušivé technologie, které, až se prach konečně usadí, radikálně změní způsob, jakým přistupujeme k informacím a co s nimi můžeme dělat.

I když se nepochybně jedná o chytače titulků, méně rušivé technologie, jako je CV, tiše vytvářejí jemné vlny v pozadí. A cokoli, co pomáhá narušit rostoucí zkázu phishingových útoků, musí být dobrá věc.