Jak dlouho může trvat odpověď ChatGPT, než na vás generativní AI přestane reagovat?
ChatGPT je velká novinka. Ale jak velké jsou odpovědi, které získáte od tohoto univerzálního chatbota?
Zjistit to není tak jednoduché, jak si možná myslíte. Pro začátek položte tuto otázku ChatGPT a budete mít jistotu, že neexistují žádné stanovené limity pro délku jeho odpovědí.
Nicméně, jak zde odhalujeme, není to tak jednoduché. Existují skryté limity délky odpovědi ChatGPT, ale existuje také několik šikovných a jednoduchých řešení, která vám pomohou získat delší odpovědi.
Jak ChatGPT určuje délku odpovědi?
Jak ChatGPT funguje, je složitéa délka odpovědi se liší v závislosti na tom, co je požadováno, a na požadované úrovni podrobností. Jak ukazuje další snímek obrazovky, ChatGPT tvrdí, že neexistují žádná přísná omezení.
To není to, co jsme našli. Níže uvedený příklad ukazuje, že ChatGPT náhle zastaví odpověď uprostřed věty. Požádali jsme ji, aby vypracovala tisícislovnou esej o výhodách oběhového hospodářství. ChatGPT přestal reagovat, když dosáhl 677 slov.
Test jsme opakovali několikrát s různými otázkami a pokaždé se zastavil uprostřed věty; občas to doprovázela chyba sítě. Toto je běžná chyba a existují různé způsoby, jak opravit chyby sítě v ChatGPT.
Část odpovědi, proč se to děje, spočívá v něčem, co se nazývá systém tokenů.
Co používá tokenový systém ChatGPT?
Spíše než jednoduchý počet slov k určení délky dotazů i odpovědí používá ChatGPT systém tokenů. To rozdělí každý vstup a výstup na řadu tokenů používaných ke klasifikaci velikosti požadavku a odpovědi.
I když počet slov v tom hraje roli, není to celý příběh. Například byl uveden níže uvedený příklad Nástroj Tokenizer OpenAi.
Věta a odpověď byly „Tokenizovány“ na hodnotu devíti tokenů. To je v souladu s „praktickým pravidlem“ OpenAI, že jeden token odpovídá třem čtvrtinám slova.
Model GPT 3.5 omezuje uživatelské dotazy a data na 4 097 tokenů. Podle výpočtu OpenAI to odpovídá asi 3 000 slovům. Je však důležité poznamenat, že tento limit platí jak pro odpověď, tak pro otázku.
I když je to teoreticky v pořádku a dobré, výsledky, se kterými jsme se setkali, se nikdy těmto limitům nepřiblížily. Neúplná odpověď, kterou ChatGPT vrátil v našem dřívějším testu, vážila pouhých 798 tokenů.
Proč jsou odpovědi ChatGPT omezené?
Tato nová technologie se rychle stala nejdiskutovanějším technologickým rozvojem tohoto století. To vyvolalo obrovskou poptávku po ChatGPT. V konečném důsledku tato poptávka účinně omezila reakce hluboko pod stanovené limity.
I když to není oficiálně potvrzeno, zdá se, že de facto existuje limit kolem pěti set slov nebo 4 000 znaků.
Abychom zdůraznili, nejde o pevné pravidlo – generovali jsme výstupy, které toto překračovaly téměř o dvě stě slov. To však lze považovat za bezpečnou horní hranici pro dosažení úplných odpovědí.
Jak získat delší odpovědi z ChatGPT
Jakmile pochopíte, že existuje „skrytý limit“ odpovědí ChatGPT, existuje několik jednoduchých způsobů, které vám pomohou získat úplnější odpovědi.
- Požádejte ChatGPT o pokračování: Pokud se ChatGPT zastaví v průběhu odpovědi, pak jednou z možností je jednoduše požádat o pokračování. V níže uvedeném příkladu jsme zadali „Pokračuj“ a přidalo to dalších dvě stě slov k odpovědi.
- Rozdělte svou otázku na menší části: Několikrát jsme ji například požádali, aby napsala esej o dopadu umělé inteligence na společnost. Pokaždé, když se odezva zastavila. Jednou z možností je požádat jej o odrážku některých témat pro esej o umělé inteligenci a poté použít dodané odrážky jako jednotlivé výzvy.
- Použijte možnost Obnovit: I když to může způsobit stejnou chybu, aniž by bylo co ztratit, vždy to stojí za pokus.
- Ve výzvě zadejte horní hranici počtu slov: Obrázek níže ukazuje, jak to lze použít k manipulaci s maximálním počtem slov v odpovědi.
Tyto tipy vám pomohou získat úplnější odpovědi z ChatGPT a obejít neoficiální limit délky jeho odpovědí.
ChatGPT: Kvalita nad kvantitou
I když neexistují žádné stanovené limity pro délku odpovědí ChatGPT, zdá se, že platforma ukládá limit kolem pěti set slov nebo 4 000 znaků.
Především to lze přičíst obrovské poptávce po ChatGPT. To vedlo k neúplným odpovědím a zastavení odpovědí uprostřed věty, ale existují jednoduchá řešení, která vám pomohou získat delší odpovědi.
Navzdory svým omezením zůstává ChatGPT pozoruhodným technologickým vývojem, který bude pokračovat ve vývoji a rozšiřovat hranice kvality a kvantity svých výstupů.