Dnes se na ChatGPT spoléhají miliony lidí jako na užitečný zdroj, ať už jde o práci, zábavu nebo vzdělávání. Ale můžete se spolehnout na to, že tento AI chatbot vždy poskytne fakta? Lže ChatGPT někdy, nebo vám poskytne pouze faktické informace?
Odkud ChatGPT získává informace?
Během výcvikového období dostával ChatGPT data ze zdrojů z celého webu, jako jsou vládní a agenturní webové stránky, vědecké časopisy, studie, zpravodajské články, podcasty, online fóra, knihy, databáze, filmy, dokumenty a sociální média.
Konkrétně ChatGPT-3 byl trénován pomocí rozsáhlé databáze informací, která činila 570 GB dat. Jak je uvedeno v článku z Zaměření na vědu300 miliard slov informací bylo vloženo do systému GPT-3 během jeho vývoje.
Něco, co stojí za zmínku, je, že ChatGPT byl podáván pouze daty, která existovala před rokem 2021. To znamená, že chatbot nemůže odpovídat na otázky týkající se nedávných událostí. ChatGPT také nemá přístup k internetu. Data, která byla poskytnuta při školení, jsou jediným druhem, který používá k plnění požadavků uživatelů.
Poskytuje vám však ChatGPT pouze fakta, nebo se do jeho odpovědí mísí i nějaké nejednoznačnější informace? Navíc vám může ChatGPT lhát?
Lže ChatGPT?
Zatímco ChatGPT často poskytuje uživatelům pravdivé informace, má schopnost „lhát“. ChatGPT se samozřejmě nerozhodne škodolibě lhát uživatelům, protože to prostě nemůže. ChatGPT je koneckonců nástroj pro zpracování jazyka, nikoli napodobenina skutečné, vnímající osoby.
ChatGPT však může technicky stále lhát prostřednictvím fenoménu známého jako halucinace AI.
AI halucinace zahrnuje systém umělé inteligence poskytující informace, které se zdají rozumné nebo věrohodné, ale ve skutečnosti nejsou vůbec pravdivé. Halucinace umělé inteligence může ve skutečnosti poskytnout informaci, že během tréninkového období nebyla nikdy krmena. Alternativně k tomu může dojít, když systém umělé inteligence poskytuje informace, které nesouvisejí s výzvou nebo požadavkem. Systém AI může dokonce tvrdit, že je člověkem při halucinaci.
Systémy umělé inteligence, jako jsou chatboti, spadají do pasti halucinací z několika důvodů: nedostatek porozumění reálnému světu, softwarové chyby a omezení poskytovaných dat.
Jak již bylo uvedeno, ChatGPT může poskytovat informace pouze pomocí údajů zveřejněných do roku 2021, což jistě omezuje, jaké druhy výzev může splnit.
Jeden z Velké problémy ChatGPT je, že se také může stát obětí zaujatosti při poskytování informací uživatelům. Dokonce i tvůrci ChatGPT uvedli, že systém AI byl v minulosti „politicky zaujatý, urážlivý“ a „jinak nevhodný“. Jak uvádí The Independent, vývojáři ChatGPT jsou odhodláni tento problém řešit, ale to neznamená, že již nepředstavuje riziko.
Na dotaz ChatGPT uvedl, že důvody, proč může poskytnout nepřesné informace, zahrnují následující:
- Nejednoznačnost v otázce (nejasné, nejasné výzvy);
- Poskytnuté neúplné informace;
- Poskytnuté neobjektivní nebo nesprávné informace; nebo,
- Technická omezení (zejména kvůli nedostatečnému přístupu k aktuálním datům).
ChatGPT tedy sám uvedl, že existují scénáře, ve kterých neposkytne uživatelům přesné informace.
V další odpovědi ve stejné konverzaci ChatGPT uvedl, že „je vždy dobrý nápad ověřit jakékoli informace [poskytnuté] s jinými zdroji.
Můžete věřit ChatGPT?
Protože to může poskytnout nepravdivé informace, jasně nemůže věřit ChatGPT 100% času.
Riziko halucinací AI chatbota můžete snížit nastavením konkrétních parametrů, jak vám může odpovědět. Stále však neexistuje žádná záruka, že některé nepravdivé informace neproklouznou.
Z tohoto důvodu je nejlepší zkontrolovat všechny informace, které vám ChatGPT poskytuje, zvláště pokud požadujete informace o nedávných událostech. Dvojitá kontrola těchto dat odkazem na jiné zdroje vám může pomoci určit, zda má ChatGPT pravdu v tom, co říká, a může vám zabránit v přijímání neuvážených rozhodnutí.
ChatGPT je užitečný, ale ne vždy pravdivý
Bohužel se nemůžete spolehnout na to, že ChatGPT poskytne pravdivé a nezkreslené informace 100% času. Tento chatbot s umělou inteligencí je nepopiratelně užitečný a může vám pomoci různými způsoby, ale vždy se vyplatí ověřit, zda jsou informace, které poskytuje, pravdivé.
