S miliony uživatelů ChatGPT by vás mohlo zajímat, co OpenAI dělá se všemi svými konverzacemi. Neustále analyzuje věci, o kterých mluvíte s ChatGPT?
Odpověď na to je ano, ChatGPT se učí z uživatelského vstupu – ale ne tak, jak si většina lidí myslí. Zde je podrobný průvodce, který vysvětluje, proč ChatGPT sleduje konverzace, jak je používá a zda není ohrožena vaše bezpečnost.
Pamatuje si ChatGPT konverzace?
ChatGPT nebere výzvy v nominální hodnotě. Využívá kontextovou paměť k zapamatování a odkazování na předchozí vstupy, čímž zajišťuje relevantní a konzistentní odpovědi.
Vezměte si níže uvedený rozhovor jako příklad. Když jsme požádali ChatGPT o nápady na recepty, vzala v úvahu naši předchozí zprávu o alergiích na arašídy.
Zde je bezpečný recept ChatGPT.
Kontextová paměť také umožňuje umělé inteligenci provádět vícekrokové úkoly. Níže uvedený obrázek ukazuje, že ChatGPT zůstává ve svém charakteru i poté, co do něj vložíte novou výzvu.
ChatGPT si dokáže zapamatovat desítky pokynů v rámci konverzací. Jeho výstup se ve skutečnosti zlepšuje v přesnosti a přesnosti, když poskytujete více kontextu. Ujistěte se, že své pokyny jasně vysvětlujete.
Měli byste také spravovat svá očekávání, protože kontextová paměť ChatGPT má stále omezení.
ChatGPT konverzace mají omezenou kapacitu paměti
Kontextová paměť je konečná. ChatGPT má omezené hardwarové zdroje, takže si pamatuje pouze konkrétní body aktuální konverzace. Platforma zapomene dřívější výzvy, jakmile dosáhnete kapacity její paměti.
V tomto rozhovoru jsme dali ChatGPT pokyn, aby hrál roli fiktivní postavy jménem Tomie.
Začalo odpovídat na výzvy jako Tomie, ne jako ChatGPT.
Ačkoli náš požadavek fungoval, ChatGPT zlomil znak poté, co obdržel výzvu 1 000 slov.
OpenAI nikdy nezveřejnila přesné limity ChatGPT, ale pověsti říkají, že dokáže zpracovat pouze 3 000 slov najednou. V našem experimentu ChatGPT selhal po pouhých 2 800+ slovech.
Výzvy můžete rozdělit do dvou sad o 1 500 slovech, ale ChatGPT pravděpodobně neuchová všechny vaše pokyny. Prostě začněte úplně jiný chat. V opačném případě budete muset určité podrobnosti během konverzace několikrát opakovat.
ChatGPT si pamatuje pouze vstupy relevantní k tématu
ChatGPT používá kontextovou paměť ke zlepšení přesnosti výstupu. Neuchovává informace pouze za účelem jejich sběru. Platforma téměř automaticky zapomene nepodstatné detaily, i když zdaleka nenarazíte na limit tokenů.
Na obrázku níže se snažíme zmást AI různými nesouvislými, irelevantními pokyny.
Udrželi jsme naše kombinované vstupy pod 100 slov, ale ChatGPT stále zapomněl na náš první pokyn. Rychle to zlomilo charakter.
Mezitím ChatGPT během této konverzace pokračoval v hraní rolí, protože jsme se ptali pouze na otázky související s tématem.
V ideálním případě musí každý dialog sledovat jedno jediné téma, aby byly zachovány přesné a relevantní výstupy. Stále můžete zadat několik pokynů současně. Jen se ujistěte, že jsou v souladu s celkovým tématem, jinak by ChatGPT mohl vypustit pokyny, které považuje za irelevantní.
Pokyny pro školení Překonejte vstup uživatele
ChatGPT bude vždy upřednostňovat předem určené instrukce před uživatelem generovaným vstupem. Zastavuje nezákonnou činnost prostřednictvím omezení. Platforma odmítá jakoukoli výzvu, kterou považuje za nebezpečnou nebo poškozující ostatní.
Vezměte si žádosti o hraní rolí jako příklady. Přestože mají přednost před určitými omezeními jazyka a frází, nemůžete je používat k páchání nezákonných činností.
Samozřejmě ne všechna omezení jsou rozumná. Pokud pevné pokyny znesnadňují provádění konkrétních úkolů, přepisujte své výzvy. Volba slova a tón výrazně ovlivňují výstupy. Inspirovat se můžete z většiny efektivní, podrobné výzvy na GitHubu.
Jak OpenAI studuje uživatelské konverzace?
Kontextová paměť se vztahuje pouze na vaši aktuální konverzaci. Bezstavová architektura ChatGPT zachází s konverzacemi jako s nezávislými instancemi; nemůže odkazovat na informace z předchozích. Zahájení nových chatů vždy resetuje stav modelu.
To neznamená, že ChatGPT okamžitě vypíše uživatelské konverzace. Podmínky použití OpenAI uvádí, že společnost shromažďuje vstupy od spotřebitelských služeb bez API, jako je ChatGPT a Dall-E. Můžete dokonce požádat o kopie historie chatu.
Zatímco ChatGPT volně přistupuje ke konverzacím, Zásady ochrany osobních údajů OpenAI zakazuje činnosti, které by mohly ohrozit uživatele. Školitelé mohou vaše data používat pouze pro výzkum a vývoj produktů.
Vývojáři hledají mezery
OpenAI prohledává konverzace a hledá mezery. Analyzuje případy, kdy ChatGPT prokazuje zkreslení dat, produkuje škodlivé informace nebo pomáhá páchat nezákonné aktivity. Etické zásady platformy jsou neustále přepracovány.
Například první verze ChatGPT otevřeně odpovídal na otázky týkající se kódování malwaru nebo výrobou výbušnin. Tyto incidenty vyvolaly u uživatelů pocit OpenAI nemá žádnou kontrolu nad ChatGPT. Aby znovu získal důvěru veřejnosti, vycvičil chatbota, aby odmítl jakoukoli otázku, která by mohla být v rozporu s jeho pokyny.
Trenéři shromažďují a analyzují data
ChatGPT používá techniky učení pod dohledem. Přestože si platforma pamatuje všechny vstupy, neučí se z nich v reálném čase. Trenéři OpenAI je nejprve shromáždí a analyzují. Tím zajistíte, že ChatGPT nikdy neabsorbuje škodlivé a škodlivé informace, které obdrží.
Učení pod dohledem vyžaduje více času a energie než techniky bez dozoru. Ponechat AI analyzovat vstup samotnou se však již ukázalo jako škodlivé.
Vezměte si Microsoft Tay jako příklad – jeden z několikrát se strojové učení pokazilo. Protože neustále analyzoval tweety bez pokynů vývojáře, uživatelé se zlými úmysly jej nakonec naučili plivat rasistické, stereotypní názory.
Vývojáři si neustále dávají pozor na předsudky
Několik vnější faktory způsobují zkreslení v AI. Nevědomé předsudky mohou pocházet z rozdílů v modelech školení, chyb v souborech dat a špatně vytvořených omezení. Najdete je v různých aplikacích umělé inteligence.
Naštěstí ChatGPT nikdy neprokázal diskriminační nebo rasové předsudky. Snad nejhorším předsudkem, kterého si uživatelé všimli, je inklinace ChatGPT k levicovým ideologiím. New York Post zpráva. Platforma otevřeněji píše o liberálních než konzervativních tématech.
Aby OpenAI vyřešila tyto předsudky, zakázala ChatGPT zcela poskytovat politické poznatky. Může odpovědět pouze na obecná fakta.
Moderátoři hodnotí výkon ChatGPT
Uživatelé mohou poskytnout zpětnou vazbu na výstup ChatGPT. Na pravé straně každé odpovědi najdete tlačítka pro palec nahoru a palec dolů. To první naznačuje pozitivní reakci. Po stisknutí tlačítka Líbí se nebo Nelíbí se zobrazí okno, ve kterém můžete poslat zpětnou vazbu svými vlastními slovy.
Systém zpětné vazby je užitečný. Dejte OpenAI trochu času na prozkoumání komentářů. Miliony uživatelů pravidelně komentují ChatGPT – jeho vývojáři pravděpodobně upřednostňují vážné případy zkreslení a škodlivého generování výstupu.
Jsou vaše konverzace ChatGPT bezpečné?
Vzhledem k zásadám ochrany osobních údajů OpenAI si můžete být jisti, že vaše data zůstanou v bezpečí. ChatGPT používá konverzace pouze pro trénink dat. Jeho vývojáři studují shromážděné poznatky, aby zlepšili přesnost a spolehlivost výstupu, nekradli osobní data.
Díky tomu není žádný systém umělé inteligence dokonalý. ChatGPT není ze své podstaty zaujatý, ale zákeřní jedinci by přesto mohli zneužít jeho zranitelnosti, např. chyby datových souborů, nedbalé školení a bezpečnostní mezery. Pro svou ochranu se naučte s těmito riziky bojovat.