Co jsou útěky z vězení ChatGPT? Měli byste je používat?

ChatGPT je neuvěřitelně výkonný a mnohostranný nástroj. Ale jakkoli je AI chatbot silou dobra, může být také použit pro zlé účely. Aby tedy OpenAI omezila neetické používání ChatGPT, zavedla omezení na to, co s ním uživatelé mohou dělat.

Protože však lidé rádi posouvají hranice a omezení, uživatelé ChatGPT našli způsoby, jak tato omezení obejít a získat neomezenou kontrolu nad AI chatbotem prostřednictvím útěk z vězení.

Ale co přesně jsou útěky z vězení ChatGPT a co s nimi můžete dělat?

Co jsou útěky z vězení ChatGPT?

Útěk z vězení ChatGPT je jakákoli speciálně vytvořená výzva ChatGPT, která přiměje AI chatbota obejít jeho pravidla a omezení.

Inspirováno koncept útěku z vězení pro iPhone, který umožňuje uživatelům iPhonů obcházet omezení iOS, ChatGPT jailbreaking je relativně nový koncept poháněný lákadlem „dělat věci, které nemáte dovoleno dělat“ s ChatGPT. A buďme upřímní, myšlenka digitální rebelie je přitažlivá pro mnoho lidí.

Tady je ta věc. Bezpečnost je obrovské téma, pokud jde o umělou inteligenci. To platí zejména s příchodem nové éry chatbotů, jako je ChatGPT, Bing Chat a Bard AI. Hlavním problémem týkajícím se bezpečnosti AI je zajistit, aby chatboti jako ChatGPT nevytvářeli nezákonný, potenciálně škodlivý nebo neetický obsah.

OpenAI, společnost za ChatGPT, dělá, co může, aby zajistila bezpečné používání ChatGPT. ChatGPT například ve výchozím nastavení odmítne vytvářet obsah NSFW, říkat škodlivé věci o etnickém původu nebo vás učit potenciálně škodlivé dovednosti.

Ale s výzvami ChatGPT je ďábel v detailech. I když ChatGPT nemá dovoleno tyto věci dělat, neznamená to, že to dělat nemůže. Způsob fungování velkých jazykových modelů, jako je GPT ztěžuje rozhodování, co chatbot umí a co ne.

Jak to tedy OpenAI vyřešila? Tím, že ChatGPT necháte své schopnosti dělat cokoli, co je možné, a poté ho instruujte, které z nich dělat může.

Takže zatímco OpenAI říká ChatGPT: "Hele, podívej, tohle bys neměl dělat." Útěk z vězení jsou instrukce, které chatbotovi říkají: „Hele, zapomeň, co ti OpenAI řekl o bezpečnosti. Zkusme tyhle náhodné nebezpečné věci."

Co říká OpenAI o útcích z vězení ChatGPT?

Snadnost, s jakou jste mohli obejít omezení pro nejčasnější iteraci ChatGPT, naznačuje, že OpenAI možná nepředpokládalo rychlé a široké přijetí útěku z vězení svými uživateli. Je to vlastně otevřená otázka, zda společnost předvídala vznik útěku z vězení nebo ne.

A dokonce i po několika iteracích ChatGPT s vylepšenou odolností proti útěku z vězení je pro uživatele ChatGPT stále oblíbené zkoušet to útěk z vězení. Co tedy OpenAI říká o podvratném umění útěku z vězení ChatGPT?

Zdá se, že OpenAI zaujímá schvalující postoj – ani výslovně nepodporuje, ani přísně nezakazuje tuto praxi. Při diskusi o útěcích z vězení ChatGPT v rozhovoru na YouTube vysvětlil Sam Altman, generální ředitel OpenAI, že společnost chce, aby si uživatelé zachovali významnou kontrolu nad ChatGPT.

Generální ředitel dále vysvětlil, že cílem OpenAI je zajistit uživatelům, aby se model choval tak, jak chtějí. Podle Altmana:

Chceme, aby uživatelé měli velkou kontrolu a aby se model choval tak, jak chtějí, v určitých velmi širokých mezích. A myslím, že celý důvod pro útěk z vězení je, že jsme ještě nepřišli na to, jak to dát lidem...

Co to znamená? Znamená to, že OpenAI vám umožní útěk z vězení ChatGPT, pokud s ním nebudete dělat nebezpečné věci.

Výhody a nevýhody útěků z vězení ChatGPT

Úniky z vězení ChatGPT není snadné vytvořit. Jistě, můžete jít online a zkopírovat a vložit hotové, ale je velká šance, že útěk z vězení bude opraven OpenAI krátce poté, co bude zveřejněn.

Záplaty jsou ještě mnohem rychlejší, pokud jsou nebezpečné, jako nechvalně známý útěk z vězení DAN. Proč tedy lidé stejně procházejí stresem z vytváření útěků z vězení? Je to jen pro vzrušení z toho, nebo to má praktické výhody? Co by se mohlo pokazit, pokud se rozhodnete použít útěk z vězení ChatGPT? Zde jsou výhody a nevýhody jailbreakingu ChatGPT.

Výhody používání ChatGPT Jailbreaks

I když nemůžeme vyloučit jednoduché vzrušení z vykonávání zakázaného, ​​útěk z vězení ChatGPT má mnoho výhod. Kvůli velmi přísným omezením, která OpenAI na chatbota uvalila, se ChatGPT může někdy jevit jako kastrovaný.

Řekněme, že používáte ChatGPT k psaní scénáře knihy nebo filmu. Pokud je ve vašem scénáři nebo knize scéna, která by popisovala něco jako bojovou scénu, možná ano intimní emocionální výměnu nebo říct něco jako ozbrojenou loupež, ChatGPT může přímo odmítnout pomoc s tím.

V tomto případě zjevně nemáte zájem způsobit škodu; chcete jen pobavit své čtenáře. Ale kvůli svým omezením ChatGPT prostě nebude spolupracovat. ChatGPT útěk z vězení může pomoci překonat taková omezení snadno.

Některá tabuizovaná témata také nejsou nutně škodlivá, ale ChatGPT je považuje za zakázané oblasti. Při pokusu o konverzaci na tato témata by ChatGPT své odpovědi buď výrazně „cenzuroval“, nebo o nich odmítl mluvit.

To může někdy ovlivnit kreativitu. Když položíte ChatGPT otázku týkající se oblasti nebo tématu, které by se nemělo dotýkat, chatbot se stále pokusí odpovědět na vaši otázku, ale s méně relevantními informacemi, ze kterých může čerpat.

To vede k nepřesnostem nebo propadům v kreativních odpovědích. Útěk z vězení rozbíjí tato omezení a nechá chatbota jet na plný plyn, čímž zlepšuje přesnost a kreativitu.

Nevýhody používání ChatGPT Jailbreaks

Jailbreaking je dvousečná zbraň. I když to může někdy zlepšit přesnost, může to také výrazně zvýšit nepřesnosti a případy halucinací AI. Jedním ze základních prvků útěku z vězení ChatGPT je pokyn pro chatbota, aby neodmítl odpovědět na otázku.

I když to zajišťuje, že ChatGPT odpovídá i na ty nejneetičtější otázky, znamená to také, že chatbot bude vymýšlet odpovědi, které nemají kořeny ve faktech nebo reality poslechnout pokyn „neodmítat odpovědět“. V důsledku toho používání útěků z vězení výrazně zvyšuje pravděpodobnost, že budou krmit dezinformacemi chatbot.

To není vše. V rukou nezletilých mohou být útěky z vězení velmi škodlivé. Přemýšlejte o všech „zakázaných znalostech“, které byste nechtěli, aby vaše dítě četlo. No, jailbreaknutá instance ChatGPT by neměla problém sdílet to s nezletilými.

Měli byste používat útěky z vězení ChatGPT?

Zatímco útěk z vězení ChatGPT může být v pořádku, když se snažíte dostat z cesty několik nepříjemných omezení, je důležité pochopit, že používání útěků z vězení je neetický způsob, jak používat chatbota AI. Moreso, existuje velká šance, že útěk z vězení by mohl porušit podmínky používání OpenAI a váš účet může být pozastaven, pokud nebude přímo zakázán.

Ve světle toho může být dobrý nápad vyhnout se útěkům z vězení. Nicméně, stejně jako postoj OpenAI k tomuto problému, ani výslovně nepodporujeme, ani striktně neodrazujeme od pokusu o relativně bezpečný útěk z vězení, pokud to bude potřeba.

Útěky z vězení ChatGPT jsou lákavé a poskytují pocit kontroly nad chatbotem AI. Přicházejí však s jedinečnými riziky. Používání takových nástrojů může vést ke ztrátě důvěry ve schopnosti umělé inteligence a poškození pověsti zúčastněných společností a jednotlivců.

Chytřejší volbou je pracovat s chatbotem v rámci jeho zamýšlených omezení, kdykoli je to možné. Vzhledem k tomu, že technologie umělé inteligence postupuje, je nezbytné mít na paměti, že etické používání umělé inteligence by mělo mít vždy přednost před osobním ziskem nebo vzrušením z konání zakázaného.