Jak hackeři používají generativní umělou inteligenci při svých útocích a co s tím můžeme dělat

Generativní umělá inteligence (AI) je v poslední době v centru pozornosti. Chatbot ChatGPT poháněný umělou inteligencí a další systémy podporované zpracováním přirozeného jazyka, jako je VALL-E, přinesly generativní umělou inteligenci široké veřejnosti a odhalily její výhody a nepříznivé účinky.

Jednou z hlavních obav ohledně generativní umělé inteligence je skutečnost, že ji lze použít k upgradu škodlivých exploitů a vymyslet sofistikovanější kybernetické útoky. Jak tedy hackeři používají generativní umělou inteligenci při svých útocích a co to znamená pro budoucnost kybernetické bezpečnosti?

Co je to generativní umělá inteligence a jak funguje?

Jak již název napovídá, generativní AI je typ AI, který je schopen generovat nový obsah – snímky, text, zvuk a syntetická data.

Jedním slavným příkladem je ChatGPT, chatbot poháněný umělou inteligencí, se kterým můžete vést konverzace jako lidé a získejte doporučení na vynikající filmy – to znamená, pokud si nemůžete vymyslet smysluplnější misi k odeslání ChatGPT na.

Dovolte nám, abychom vám dali nápad nebo dva – můžete Získejte ChatGPT, aby za vás napsal všechny ty obtížné e-maily, využít ChatGPT jako překladatelský nástroj, a dokonce proměňte ChatGPT ve svého zdravého pomocníka při plánování jídla. Sečteno a podtrženo, během několika sekund může tento chatbot přijít se zdánlivě novým, přesvědčivým obsahem a prezentovat jej docela politicky korektním způsobem.

Generativní umělá inteligence však zatím nemůže být kreativní způsobem, jakým může být člověk. Je to proto, že ke zpracování velkého množství dat a generování vlastních výstupů využívá nekontrolované a částečně řízené algoritmy strojového učení.

Pokud byste například chtěli zadat malbu podobnou Picassovi z generativní umělé inteligence, jako je DALL-E 2, budete muset zadat váš popis do určeného pole – řekněme „Picasso's Guernica, ale s koťaty“ – a zůstaňte pár sekundy. Během této doby bude umělá inteligence používat všechny specifické rysy stylu umělce, které se předtím naučila, dodává koťata pro dobrou míru a přijít s něčím originálním – máme ten obrázek, který můžete trochu vidět výše.

Jak hackeři využívají generativní AI při svých útocích?

Zloduchy vždy přitahovaly dobré algoritmy. Není tedy překvapením, že využívají generativní AI k posílení svých útoků. Využitím metod ML, jako je posílení učení a generativní adversariální sítě, kyberzločinci mohou vymýšlet nové, sofistikovanější kybernetické útoky, které mohou prorazit standard kybernetickou obranu.

Jedním z příkladů této zvrácenosti je „špičkový“ chatbot OpenAI, as ChatGPT využívají kybernetičtí zločinci k psaní malwaru. Na začátku se zdálo, že ChatGPT je zábava a hry, ale nyní je odhalena jako jedna z hlavních hrozeb pro bezpečnost a soukromí. Pokud rádi chatujete s ChatGPT, je chytré si na to dávat pozor věci, které mohou kyberzločinci dělat s ChatGPT.

Stručně řečeno, ChatGPT a další generativní nástroje umělé inteligence usnadnily život kyberzločincům a ztížily bezpečnostním týmům. Některé ze způsobů, jak aktéři kybernetických hrozeb využívají AI při svých útocích, zahrnují:

• Vytváření lepšího a sofistikovanějšího malwaru: V rukou hackerů lze generativní umělou inteligenci použít ke generování těžko odhalitelných kmenů malwaru a provádění útoků. V kombinaci s modely AI by malware mohl maskovat svůj záměr, dokud nesplní svůj špatný účel.
• Psaní personalizovaných phishingových e-mailů založených na umělé inteligenci: S pomocí generativní umělé inteligence již phishingové e-maily nemají prozrazující známky podvodu – jako je špatný pravopis, špatná gramatika a nedostatek kontextu. Navíc s AI, jako je ChatGPT, mohou aktéři hrozeb spouštět phishingové útoky bezprecedentní rychlostí a rozsahem.
• Generování hlubokých falešných dat: Protože dokáže vytvořit přesvědčivé napodobeniny lidských činností – jako je psaní, řeč a obrázky – generativní umělou inteligenci lze použít při podvodných činnostech, jako je krádež identity, finanční podvody atd dezinformace.
• Rozluštění CAPTCHA a hádání hesel: CAPTCHA, kterou používají stránky a sítě k vyčesání robotů hledajících neoprávněný přístup, nyní mohou hackeři obejít. S využitím ML mohou také plnit další opakující se úkoly, jako je hádání hesel a útoky hrubou silou.
• Sabotáž ML při detekci kybernetických hrozeb: Pokud je bezpečnostní systém zahlcen příliš velkým množstvím falešných poplachů, může jej hacker zaskočit skutečným kybernetickým útokem.

Jak můžeme bojovat proti generativní AI hrozbě?

Jak se kybernetické útoky stávají sofistikovanějšími a jejich důsledky vážnější, tradiční bezpečnostní systémy se promění ve věci minulé éry. Díky schopnosti poučit se z předchozích útoků a přizpůsobit se je umělá inteligence neocenitelným přínosem jak pro kyberzločince, tak pro jejich protivníky.

Použití umělé inteligence v kybernetické bezpečnosti má některé vážné výhody, jako je rychlejší detekce hrozeb, identifikace hrozeb a reakce na hrozby – takže boj s ohněm ohněm se zdá být správnou odpovědí. Než se kyberzločinci naučí, jak zasadit zničující rány jednotlivcům a společnostem po celém světě Ve světě musí odborníci na kybernetickou bezpečnost naučit své systémy poháněné umělou inteligencí, aby se před nimi chránily útoky.

Není to však všechno na AI. Koneckonců, můžeme také posílit naši vlastní bezpečnost a soukromí pomocí osvědčených metod, jako je vícefaktorová autentizace (MFA), biometrická technologie, využití správce hesel, nejlépe šifrované nástroje pro spoluprácia starý dobrý zdravý rozum.

Boj s AI s AI

Budeme tedy v blízké budoucnosti svědky válek kybernetické bezpečnosti AI? No, doufáme, že ne. Jak se však umělá inteligence neustále rozvíjí a stává se dostupnou pro všechny – kyberzločince i profesionály v oblasti kybernetické bezpečnosti – role AI a ML v nadcházejících letech poroste.