Kdo v tuto chvíli nepoužil ChatGPT? Je to zábavné, naprosto fascinující, pokud se zajímáte o umělou inteligenci, a zdarma (prozatím).
Ačkoli je to obvykle popisováno jako chatbot, ChatGPT je mnohem víc než to. Dokáže vytvářet kopie, vysvětlovat složitá témata, fungovat jako překladatel, vymýšlet vtipy a psát kód. Ale může být také vyzbrojen aktéry hrozeb.
Jak ChatGPT funguje a proč je pro kyberzločince atraktivní
ChatGPT (Generative Pre-trained Transformer) byl vyvinut výzkumnou laboratoří umělé inteligence OpenAI a spuštěn v listopadu 2022. Jedná se o rozsáhlý jazykový model, který využívá kombinaci technik strojového učení pod dohledem a posílení.
Možná ještě důležitější je, že ChatGPT je neustále dolaďován a trénován uživateli, kteří mohou buď hlasovat nebo hlasovat proti jeho odpovědím, čímž je o to přesnější a výkonnější, protože shromažďuje data sama.
To je to, co odlišuje ChatGPT od ostatních chatbotů. A pokud jste jej někdy používali, víte, že rozdíl je patrný okamžitě: na rozdíl od jiných podobných produktů je schopen Aktivně se zapojte do konverzace a dokončujte složité úkoly s ohromující přesností a zároveň poskytujte koherentní a lidský přístup odpovědi.
Kdyby vám ukázali krátkou esej napsanou člověkem a esej napsanou ChatGPT, pravděpodobně byste měli problém určit, která je která. Jako příklad zde uvádíme část textu, který ChatGPT vygeneroval, když mu bylo řečeno, aby napsal krátký esej o The Catcher in the Rye.
To neznamená, že ChatGPT nemá svá omezení – zcela jistě má. Čím více budete používat, tím více si všimnete, že tomu tak je. Jakkoli je mocný, stále může bojovat s elementární logikou, dělat chyby, sdílet nepravdivé a zavádějící informace informace, dezinterpretovat pokyny komickým způsobem a nechat se vmanipulovat k tomu, aby nakreslili špatně závěr.
Ale síla ChatGPT nespočívá v jeho schopnosti konverzovat. Spíše spočívá v jeho téměř neomezené schopnosti plnit úkoly hromadně, efektivněji a mnohem rychleji, než by to dokázal člověk. Se správnými vstupy a příkazy a několika kreativními řešeními lze ChatGPT proměnit v znepokojivě výkonný automatizační nástroj.
S ohledem na to není těžké si představit, jak by kyberzločinec mohl vyzbrojit ChatGPT. Jde o to najít tu správnou metodu, škálovat ji a zajistit, aby AI dokončila co nejvíce úkolů najednou, s více účty a v případě potřeby na několika zařízeních.
5 věcí, které mohou herci dělat s ChatGPT
Existuje již několik skutečných příkladů toho, jak ChatGPT používají aktéři hrozeb, ale je to více je pravděpodobné, že je zbrojení mnoha různými způsoby, nebo v určitém okamžiku bude budoucnost. Zde je pět věcí, které hackeři mohou dělat (a pravděpodobně dělají) s ChatGPT.
1. Napište Malware
Pokud ChatGPT umí psát kód, může psát malware. Žádné překvapení. Ale to není jen pouhá teoretická možnost. V lednu 2023 kyberbezpečnostní společnost Check Point Research zjistila, že kyberzločinci jsou již pomocí ChatGPT psát malware— a chlubit se tím na podzemních fórech.
Hrozný aktér, který Check Point Research objevil, použil pokročilého chatbota spíše kreativně, aby znovu vytvořil malware založený na Pythonu popsaný v určitých výzkumných publikacích. Když výzkumníci testovali škodlivý program, kyberzločinec mluvil pravdu: jeho malware generovaný ChatGPT dělal přesně to, k čemu byl navržen.
2. Generování phishingových e-mailů
Tak mocné, jak se staly spamové filtry, nebezpečné phishingové e-maily stále proklouzávají trhlinami a průměrný člověk nemůže dělat mnoho jiného, než nahlásit odesílatele svému poskytovateli. Existuje však mnoho, co by schopný aktér hrozeb mohl udělat s mailing listem a přístupem k ChatGPT.
Se správnými příkazy a návrhy může ChatGPT generovat přesvědčivé phishingové e-maily, potenciálně automatizovat proces pro aktéry hrozby a umožnit jim škálovat jejich operace.
3. Vytvářejte podvodné webové stránky
Pokud zadáte do Googlu výraz „vytvořit web pomocí ChatGPT“, najdete spoustu návodů, které velmi podrobně vysvětlují, jak to udělat. I když je to dobrá zpráva pro každého, kdo by chtěl vytvořit web od nuly, je to také skvělá zpráva pro kyberzločince. Co jim brání v používání ChatGPT k vytvoření spousty podvodných webů nebo phishingových vstupních stránek?
Možnosti jsou téměř nekonečné. Hrozba by mohla naklonovat existující web pomocí ChatGPT a poté jej upravit, vytvořit falešné webové stránky elektronického obchodu, spustit stránky se scarewarovými podvody, a tak dále.
4. Vytvářejte spamový obsah
Chcete-li vytvořit falešný web, spustit podvodnou stránku na sociálních sítích nebo vytvořit kopírovací web, potřebujete obsah – hodně. A aby podvod fungoval, musí vypadat co nejlegitimněji. Proč by si aktér hrozeb najímal autory obsahu nebo psal blogové příspěvky sám, když to za ně může nechat udělat ChatGPT?
Je pravda, že web s obsahem generovaným umělou inteligencí by byl pravděpodobně poměrně rychle penalizován společností Google a neobjevil by se ve výsledcích vyhledávání, ale existuje mnoho různých způsobů, jak by hacker mohl propagovat webovou stránku, posílat na ni provoz a ošidit lidi o jejich peníze nebo ukrást jejich osobní údaje.
5. Šířit dezinformace a falešné zprávy
Online dezinformace se v posledních letech staly velkým problémem. Falešné zprávy se na sociálních sítích šíří jako lavina a lidé, kteří nic lepšího neznají, často propadají zavádějícím – a někdy doslova vymyšleným – příběhům. To může mít strašné následky v reálném životě a zdá se, že nikdo nemá ponětí, jak přestat šíření falešných zpráv aniž by porušil zákony o svobodě slova.
Nástroje jako ChatGPT by mohly tento problém zhoršit. Přístup aktérů hrozeb k softwaru, který je schopen každý den generovat tisíce falešných zpráv a příspěvků na sociálních sítích, se zdá být receptem na katastrofu.
Neberte to za slovo
Pokud nejste přesvědčeni, zeptali jsme se ChatGPT, jak by to kyberzločinec použil. Zdá se, že souhlasí s jádrem tohoto článku.
Ve špatných rukou se ChatGPT stává nebezpečným
Lze si jen představovat, čeho bude umělá inteligence schopna za pět nebo 10 let. Prozatím je nejlepší ignorovat humbuk a paniku a posuzovat ChatGPT racionálně.
Stejně jako všechny technologie není ChatGPT ze své podstaty užitečný ani škodlivý. Navzdory některým nedostatkům jde o zdaleka nejschopnějšího chatbota, který byl kdy vypuštěn na veřejnost.
