ChatGPT je nový výkonný chatbot s umělou inteligencí, který rychle zaujme, ale mnoho lidí poukázalo na to, že má několik vážných úskalí. Zeptejte se, co chcete, a dostanete odpověď, která zní, jako by ji napsal člověk, se naučil své znalosti a dovednosti psaní z velkého množství informací na internetu.
Stejně jako internet však pravda a fakta nejsou vždy samozřejmé a ChatGPT je vinen tím, že je špatně. Vzhledem k tomu, že ChatGPT změní naši budoucnost, zde jsou některé z největších obav.
Co je ChatGPT?
ChatGPT je velký model výuky jazyků, který byl navržen tak, aby napodoboval lidskou konverzaci. Dokáže si zapamatovat věci, které jste mu řekli v minulosti, a dokáže se opravit, když se mýlí.
Píše lidským způsobem a má bohaté znalosti, protože byl vyškolen na nejrůznějších textech z internetu, jako je Wikipedie, blogové příspěvky, knihy a akademické články.
Je snadné se to naučit jak používat ChatGPT, ale náročnější je zjistit, jaké jsou jeho největší problémy. Zde jsou některé, které stojí za to vědět.
1. ChatGPT není vždy správný
Selhává v základní matematice, nezdá se, že by odpovídal na jednoduché logické otázky a zajde dokonce tak daleko, že bude argumentovat zcela nesprávnými fakty. Jak mohou uživatelé sociálních médií potvrdit, ChatGPT se může mýlit při více než jedné příležitosti.
OpenAI ví o tomto omezení a píše, že: "ChatGPT někdy píše věrohodně znějící, ale nesprávné nebo nesmyslné odpovědi." Tento „halucinace“ skutečnosti a fikce, jak tomu někteří vědci říkají, je obzvláště nebezpečná, pokud jde o něco jako lékařské Rada.
Na rozdíl od jiných asistentů umělé inteligence, jako jsou Siri nebo Alexa, Chat GPT nepoužívá k nalezení odpovědí internet. Místo toho vytvoří větu slovo po slovu a na základě svého školení vybere nejpravděpodobnější „token“, který by měl následovat.
Jinými slovy, ChatGPT dospívá k odpovědi pomocí řady odhadů, což je jeden z důvodů, proč může argumentovat nesprávnými odpověďmi, jako by byly zcela pravdivé.
I když je skvělý ve vysvětlování složitých pojmů a dělá z něj mocný nástroj pro učení, je důležité nevěřit všemu, co říká. ChatGPT není vždy správný – alespoň zatím ne.
2. Předpojatost je zapečena do systému
ChatGPT byl vyškolen na kolektivní psaní lidí po celém světě, v minulosti i současnosti. To znamená, že stejná zkreslení, která existují v datech, se mohou objevit i v modelu.
Uživatelé ve skutečnosti ukázali, jak může ChatGPT poskytnout některé hrozné odpovědi, některé například diskriminující ženy. Ale to je jen špička ledovce; může přinést odpovědi, které jsou extrémně škodlivé pro řadu menšinových skupin.
Vina nespočívá pouze v datech. Výzkumníci a vývojáři OpenAI vybírají data, která se používají k trénování ChatGPT. Aby pomohla vyřešit to, co OpenAI nazývá „předpojaté chování“, žádá uživatele, aby poskytli zpětnou vazbu na špatné výstupy.
S potenciálem způsobit škodu lidem můžete namítnout, že ChatGPT neměl být zveřejněn, dokud nebudou tyto problémy prostudovány a vyřešeny.
Podobný chatbot s umělou inteligencí s názvem Sparrow (vlastněný mateřskou společností Google, Alphabet) byl vydán v září 2022. Bylo však drženo za zavřenými dveřmi kvůli podobným obavám, že by mohlo způsobit újmu.
Možná měla Meta také vést varování. Když vydala Galacticu, jazykový model umělé inteligence vyškolený na akademických pracích, byl rychle svolán poté, co jej mnoho lidí kritizovalo za to, že poskytuje nesprávné a zkreslené výsledky.
3. Výzva pro středoškolskou angličtinu
Můžete požádat ChatGPT o korekturu vašeho psaní nebo upozornit na to, jak zlepšit odstavec. Případně se můžete z rovnice úplně odstranit a požádat ChatGPT, aby pro vás něco napsal.
Učitelé experimentovali se zadáváním anglických úkolů do ChatGPT a obdrželi odpovědi, které jsou lepší, než jaké by dokázalo mnoho jejich studentů. Od psaní průvodních dopisů po popis hlavních témat slavného literárního díla to ChatGPT zvládne bez váhání.
To vyvolává otázku: pokud ChatGPT může psát pro nás, budou se studenti muset v budoucnu naučit psát? Může se to zdát jako existenční otázka, ale když studenti začnou používat ChatGPT k psaní svých esejí, školy budou muset rychle vymyslet odpověď. Rychlé nasazení AI v posledních letech šokuje mnohá odvětví a vzdělávání je jen jedním z nich.
4. Může způsobit skutečnou světovou škodu
Dříve jsme zmínili, jak mohou nesprávné informace od ChatGPT způsobit skutečné škody, přičemž nejzřetelnějším příkladem jsou nesprávné lékařské rady.
Existují i další obavy. Falešné účty na sociálních sítích představují na internetu obrovský problém a se zavedením AI chatbotů by bylo snazší provádět internetové podvody. Šíření falešných informací je dalším problémem, zvláště když ChatGPT přesvědčuje, že i špatné odpovědi znějí přesvědčivě správně.
Rychlost, s jakou ChatGPT dokáže produkovat odpovědi, které nejsou vždy správné, již způsobila problémy Stack Exchange, webové stránce, kde mohou uživatelé klást otázky a získávat odpovědi.
Brzy po jeho vydání byly odpovědi od ChatGPT na webu zakázány, protože velké množství z nich bylo chybných. Bez dostatečného počtu lidských dobrovolníků, kteří by probrali nevyřízené položky, by nebylo možné udržovat vysokou úroveň kvalitních odpovědí, což by způsobilo poškození webu.
5. OpenAI má veškerou moc
S velkou mocí přichází velká zodpovědnost a OpenAI má velkou moc. Je to jedna z prvních společností s umělou inteligencí, která skutečně otřásla světem ne jedním, ale několika modely umělé inteligence, včetně Dall-E 2, GPT-3 a nyní ChatGPT.
OpenAI vybírá, jaká data se použijí k trénování ChatGPT a jak se vypořádá s negativními důsledky. Ať už s metodami souhlasíme nebo ne, bude pokračovat ve vývoji této technologie podle svých vlastních cílů.
I když OpenAI považuje bezpečnost za vysokou prioritu, o tom, jak jsou modely vytvářeny, mnoho nevíme. Ať už si myslíte, že by kód měl být open source, nebo souhlasíte s tím, že by jeho části měly být tajné, nemůžeme s tím moc dělat.
Na konci dne můžeme jen věřit, že OpenAI bude ChatGPT zkoumat, vyvíjet a používat zodpovědně. Případně se můžeme zasadit o to, aby se více lidí mohlo vyjádřit, jakým směrem by se měla AI ubírat, a sdílet sílu AI s lidmi, kteří ji budou používat.
Pokud vás zajímá, co dalšího OpenAI vyvinulo, podívejte se na naše články jak používat Dall-E 2 a jak používat GPT-3.
Řešení největších problémů AI
S ChatGPT, nejnovějším vývojem OpenAI, je toho hodně, na co se můžete těšit. Ale kromě jeho bezprostředního použití existují některé vážné problémy, které stojí za pochopení.
OpenAI připouští, že ChatGPT může produkovat škodlivé a zaujaté odpovědi, nemluvě o jeho schopnosti míchat fakta s fikcí. S tak novou technologií je těžké předvídat, jaké další problémy nastanou. Do té doby si tedy užijte prozkoumávání ChatGPT a dávejte si pozor, abyste nevěřili všemu, co se tam píše.
