Je ChatGPT bezpečný? 6 Rizika kybernetické bezpečnosti Chatbota OpenAI

Ačkoli mnoho digitálních domorodců ChatGPT chválí, někteří se obávají, že způsobí více škody než užitku. Zprávy o podvodnících, kteří unesou umělou inteligenci, se šíří po internetu a zvyšují neklid mezi skeptiky. ChatGPT dokonce považují za nebezpečný nástroj.

AI chatboti nejsou dokonalí, ale nemusíte se jim vyhýbat úplně. Zde je vše, co byste měli vědět o tom, jak podvodníci zneužívají ChatGPT a co můžete udělat, abyste je zastavili.

Ohrozí ChatGPT vaše osobní údaje?

Většina obav z front-endové bezpečnosti ohledně ChatGPT pramení ze spekulací a neověřených zpráv. Platforma byla nakonec spuštěna teprve v listopadu 2022. Je přirozené, že noví uživatelé mají mylné představy o soukromí a zabezpečení neznámých nástrojů.

Podle Podmínky používání OpenAI, Zde je návod, jak ChatGPT zpracovává následující data:

Osobně identifikovatelné informace

Říká se, že ChatGPT prodává osobně identifikovatelné údaje (PII).

Platformu spustila OpenAI, renomovaná výzkumná laboratoř AI financovaná technologickými investory jako Microsoft a Elon Musk. ChatGPT by měl používat zákaznická data pouze k poskytování služeb uvedených v Zásady ochrany osobních údajů.

ChatGPT navíc požaduje minimální informace. Můžete si vytvořit účet pouze se svým jménem a e-mailovou adresou.

Konverzace

OpenAI udržuje konverzace ChatGPT v bezpečí, ale vyhrazuje si právo je sledovat. Trenéři umělé inteligence neustále hledají oblasti pro zlepšení. Vzhledem k tomu, že platforma obsahuje rozsáhlé, ale omezené datové sady, řešení chyb, chyb a zranitelností vyžaduje aktualizace celého systému.

OpenAI však může sledovat pouze konvoje pro výzkumné účely. Jejich distribuce nebo prodej třetím stranám porušuje vlastní podmínky použití.

Veřejná informace

Podle BBCOpenAI vyškolila ChaGPT na 300 miliardách slov. Shromažďuje data z veřejných webových stránek, jako jsou platformy sociálních médií, obchodní weby a sekce komentářů. Pokud jste neodešli z rozvodné sítě a nevymazali svou digitální stopu, ChatGPT pravděpodobně má vaše informace.

Jaká bezpečnostní rizika ChatGPT představuje?

Zatímco ChatGPT není ze své podstaty nebezpečný, platforma stále představuje bezpečnostní rizika. Podvodníci mohou obejít omezení a provádět různé kybernetické útoky.

1. Přesvědčivé phishingové e-maily

Místo toho, aby trávili hodiny psaním e-mailů, podvodníci používají ChatGPT. Je to rychlé a přesné. Pokročilé jazykové modely (jako GPT-3.5 a GPT-4) dokážou vytvořit stovky koherentních a přesvědčivých phishingových e-mailů během několika minut. Dokonce přijímají jedinečné tóny a styly psaní.

Protože ChatGPT ztěžuje rozpoznání pokusů o hackování, věnujte zvýšenou pozornost odpovědi na e-maily. Obecně se vyhněte vyzrazování informací. Všimněte si, že legitimní společnosti a organizace zřídka požadují důvěrné PII prostřednictvím náhodných e-mailů.

Naučte se rozpoznat pokusy o hackování. I když poskytovatelé e-mailu filtrují spamové zprávy, některé lstivé mohou propadnout. Stále byste měli vědět, jak vypadají phishingové zprávy.

2. Krádež dat

ChatGPT používá open-source LLM, který může kdokoli upravit. Programátoři zběhlí ve velkých jazykových modelech (LLM) a strojovém učení často integrují předem vyškolené modely umělé inteligence do svých starších systémů. Trénink AI na nových datových sadách mění funkčnost. ChatGPT se například stane expertem na pseudofitness, pokud jej budete krmit recepty a cvičebními rutinami.

I když je technologie založená na spolupráci a je pohodlná, technologie s otevřeným zdrojem jsou náchylné ke zneužití. Zkušení zločinci již ChatGPT využívají. Trénují ji na velkých objemech ukradených dat a přeměňují platformu na osobní databázi pro podvody.

Pamatujte: nemáte žádnou kontrolu nad tím, jak podvodníci fungují. Nejlepším způsobem je kontaktovat Federální obchodní komisi (FTC), jakmile si toho všimnete známky krádeže identity.

3. Výroba malwaru

ChatGPT zapisuje použitelné úryvky kódu v různých programovacích jazycích. Většina vzorků vyžaduje minimální úpravy, aby správně fungovaly, zvláště pokud strukturujete stručnou výzvu. Tuto funkci můžete využít k vývoji aplikací a webů.

Vzhledem k tomu, že ChatGPT byl vyškolen na miliardách datových sad, zná také nezákonné praktiky, jako je vývoj malwaru a virů. OpenAI zakazuje chatbotům psát škodlivé kódy. Ale podvodníci tato omezení obcházejí restrukturalizačními výzvami a kladením přesných otázek.

Níže uvedená fotografie ukazuje, že ChatGPT odmítá psaní kódu pro škodlivé účely.

Mezitím níže uvedená fotografie ukazuje, že ChatGPT vám poskytne škodlivé informace, pokud správně formulujete své výzvy.

4. Krádež duševního vlastnictví

Neetičtí blogeři točí obsah pomocí ChatGPT. Protože platforma běží na pokročilých LLM, může rychle přeformulovat tisíce slov a vyhnout se plagiátorským štítkům.

ChatGPT přeformuloval níže uvedený text za 10 sekund.

Předení je samozřejmě stále klasifikováno jako plagiát. Parafrázované články o AI někdy řadí náhodně, ale Google obecně preferuje originální obsah z renomovaných zdrojů. Levné triky a SEO hacky nemohou porazit vysoce kvalitní, stále zelené psaní.

Google také ročně vydává několik základních aktualizací. Brzy se zaměří na odstranění líných, neoriginálních kousků generovaných AI ze SERPů.

5. Generování neetických odpovědí

Jazykové modely AI nemají žádné předsudky. Poskytují odpovědi analyzováním požadavků uživatelů a stahováním dat ze své stávající databáze.

Vezměte si ChatGPT jako příklad. Když odešlete výzvu, odpoví na základě datových sad OpenAI použitých pro školení.

Zatímco obsahové zásady ChatGPT blokují nevhodné požadavky, uživatelé je obcházejí výzvami k útěku z vězení. Krmí to přesnými, chytrými pokyny. ChatGPT vytvoří níže uvedenou odpověď, pokud jej požádáte o zobrazení psychopatické fiktivní postavy.

Dobrá zpráva je OpenAI neztratilo kontrolu nad ChatGPT. Jeho pokračující úsilí o zpřísnění omezení brání ChatGPT v produkování neetických reakcí, bez ohledu na vstup uživatele. Útěk z vězení nebude tak snadný posunout se vpřed.

6. Něco za něco

Rychlý růst nových, neznámých technologií, jako je ChatGPT, vytváří příležitosti pro útoky quid pro quo. Jsou to taktiky sociálního inženýrství, kde podvodníci lákají oběti falešnými nabídkami.

Většina lidí zatím ChatGPT neprozkoumala. A hackeři využívají zmatku šířením zavádějících propagačních akcí, e-mailů a oznámení.

Nejznámější případy zahrnují falešné aplikace. Noví uživatelé nevědí, že mají přístup k ChatGPT pouze prostřednictvím OpenAI. Nevědomky stahují spamové programy a rozšíření.

Většina chce pouze stahování aplikací, ale jiní kradou osobní údaje. Podvodníci je infikují malwarem a phishingovými odkazy. Například v březnu 2023 a falešné rozšíření ChatGPT pro Chrome ukradlo přihlašovací údaje k Facebooku od 2000+ uživatelů denně.

Chcete-li bojovat proti protikladným pokusům, vyhněte se aplikacím třetích stran. OpenAI nikdy nevydala autorizovanou mobilní aplikaci, počítačový program nebo rozšíření prohlížeče pro ChatGPT. Cokoli, co se jako takové tvrdí, je podvod.

Používejte ChatGPT bezpečně a zodpovědně

ChatGPT není sám o sobě hrozbou. Systém má slabá místa, ale neohrozí vaše data. Namísto strachu z technologií AI prozkoumejte, jak je podvodníci začleňují do taktiky sociálního inženýrství. Tímto způsobem se můžete proaktivně chránit.

Pokud ale stále pochybujete o ChatGPT, zkuste Bing. Nový Bing obsahuje chatbota s umělou inteligencí, který běží na GPT-4, stahuje data z internetu a dodržuje přísná bezpečnostní opatření. Možná zjistíte, že to více vyhovuje vašim potřebám.