Automatizovaný chatbot OpenAI s umělou inteligencí, ChatGPT, vzal internet útokem, ale ne bez toho, že by na cestě vytvořil několik problémů. Vzhledem k tomu, že autoři, kodéři, marketéři a zdánlivě všichni ostatní používají ChatGPT k generování obsahu, společnosti po celém světě čelí tsunami obsahu generovaného umělou inteligencí.
Vzhledem k tomu, že kolem ChatGPT a jeho výstupů neustále víří problémy s plagiátorstvím a odcizeným obsahem, OpenAI nyní vydala novou GPT-Classifier, nástroj určený k detekci a odhalení, zda text, který čtete, byl dílem ChatGPT nebo některého z jeho jiných nástroje GPT.
OpenAI spouští GPT-Classifier, který pomáhá kontrolovat text napsaný AI
Oznámení OpenAI přichází jako kontrola AI psaní a AI generovaného textu kroky a společnosti integrují výstup ChatGPT.
Nový GPT-Classifier se pokouší zjistit, zda daný kus textu byl napsán člověkem nebo dílem generátoru umělé inteligence. Zatímco ChatGPT a další modely GPT jsou široce trénovány na všechny způsoby zadávání textu, Nástroj GPT-Classifier je „vyladěný na datové sadě párů lidmi psaného textu a AI textu na stejné téma."
Takže namísto vysávání informací a opětovného vytvoření jejich nejlepší aproximace se GPT-Classifier pokouší porovnejte podobnosti mezi známým lidským textem a známým textem AI, abyste našli rozdíly, které odhalují zdroj spisovatel.
Detekce klasifikátoru GPT je v současné době omezená
Zatímco myšlenka snadného rozpoznání textu generovaného umělou inteligencí bude hudbou pro uši redaktorů a pedagogů, OpenAI varovalo, že jeho „klasifikátor není plně spolehlivý“.
V současné době GPT-Classifier „správně identifikuje 26 % textu napsaného umělou inteligencí“, zatímco 9 % lidského textu označí jako text napsaný umělou inteligencí. OpenAI také poznamenává, že přesnost nástroje se „obvykle zlepšuje se zvyšující se délkou vstupního textu“.
Zběžný test klasifikátoru GPT zaznamenal příklad vytvořený lidmi a označil jej za „velmi nepravděpodobné, AI-generated,“ a také správně uvedl, že úryvek vygenerovaný ChatGPT o problémech s USB byl „možná AI vygenerováno."
Poptávka po detekci ChatGPT je vysoká
I přes omezení GPT-Classifier je pravděpodobné, že poptávka po spolehlivé detekci ChatGPT bude svědkem toho, že se mnozí obrátí na tento nástroj. Závazek OpenAI vybudovat a uvolnit bezplatný nástroj pro detekci GPT je důležitý, protože čím více studentů, spisovatelé, programátoři a další používají nástroje pro generování AI-textu, pochopení a detekce tohoto vstupu se stane vitální.
V současné době, přestože je GPT-Classifier spuštěn a je k dispozici pro testování, je nejlepší brát jeho označení s rezervou.
