Co je to „PravdaGPT“, o které Elon Musk tvrdí, že na ní pracuje?

Vzhledem k tomu, že se oblast umělé inteligence stále vyvíjí závratným tempem, je připraven vstoupit na hřiště nový uchazeč. TruthGPT, chatovací robot s umělou inteligencí navržený technologickým miliardářem Elonem Muskem, vyvolává na internetu spoustu rozruchů.

Ale co je TruthGPT? Proč to chce Elon Musk vytvořit? A jak se bude lišit od nástrojů AI, které již máme?

Co je TruthGPT?

TruthGPT je navrhovaný model umělé inteligence zaměřený na řešení neduhů stávajících modelů, které pohání například ChatGPT a Bard, se zvláštním důrazem na pravdu a bezpečnost. Podle Elona Muska bude TruthGPT AI „hledající maximální pravdu“, která rozumí povaze vesmíru a je nepravděpodobné, že by zničil lidstvo, protože vidí lidi jako kritickou součást vesmíru vesmír.

Maximální AI hledající pravdu? Chápete podstatu vesmíru?

Prominete, pokud vám Muskův popis neposkytne jasný obrázek o tom, co přesně se snaží vybudovat. Lepší představu o tom, o čem mluví, však získáte, když se podíváte na to, proč se to vůbec snaží postavit.

Proč Elon Musk buduje pravduGPT?

V rozhovoru s Fox NewsElon Musk vyjádřil své znepokojení nad tím, jak velké firmy s umělou inteligencí mohou udržovat předpojatost a dezinformace prostřednictvím chatbotů s umělou inteligencí – nově vznikajícího nástroje, na kterém lidé stále více závisejí při získávání informací. Elon Musk se také vyjádřil k hrozbě, kterou AI pro lidstvo představuje, a zdůraznil možnost apokalypsy AI, což je scénář, kdy by systémy AI mohly převzít kontrolu nad naším každodenním životem.

Elon Musk vybral společnosti jako OpenAI a Google, které podle jeho názoru nedělají dost v oblasti bezpečnosti AI a ochrany před dezinformacemi, a navrhl třetí sílu – TruthGPT. Generální ředitel SpaceX a Tesla chce vytvořit TruthGPT jako protiváhu k Bard od Googlu a ChatGPT od OpenAI. Cílem je vytvořit model umělé inteligence, který se co nejvíce snaží být pravdivý v informacích, které poskytuje.

Elon Musk, který nedávno napsal otevřený dopis vyzývající k a moratorium na vývoj výkonné umělé inteligence modely (konkrétně ty výkonnější než GPT-4), se domnívá, že AI postupuje příliš rychle. Věří, že musíme zpomalit a přehodnotit náš přístup k bezpečnosti AI, než AI „převezme kontrolu“. TruthGPT je velký jazykový model (LLM), který slibuje řešení těchto dvou hlavních problémů s dnešní AI. systémy.

Jak by vypadala TruthGPT?

První náznak toho, jak by TruthGPT vypadal, je v názvu. S ohledem na dodatek „GPT“ bude mít TruthGPT pravděpodobně podobnou architekturu jako ChatGPT. Pamatujte, že Elon Musk pomohl sestavit OpenAI a tým, který postavil model GPT ChatGPT.

Také vzhledem k tomu, že architektura GPT se ukázala být technickým i komerčním úspěchem, bude hledání jiné cesty pravděpodobně příliš časově náročné a nákladné. Čas je jedna věc, kterou Elon Musk nemá, pokud chce co nejdříve postavit něco, co skutečně obstojí špička po patě s nejmodernější AI. Takže se nenechte příliš vychvalovat – TruthGPT se nemusí tak radikálně lišit od nástrojů AI, které již máme.

Přesnost nebo v žargonu Elona Muska „pravdivost“ modelu umělé inteligence do značné míry závisí na jeho tréninkových datech a tréninkovém algoritmu. Nejsme si přesně jisti, jak by se získávala tréninková data TruthGPT, ale abychom získali co nejlepší šanci na vybudování LLM, „pravdivý“, bude muset TruthGPT Elona Muska upřednostňovat data z „pravdivých zdrojů“. Ale to je přesně ono problém. Pravda je velmi subjektivní pojem. Co platí pro mě, nemusí platit pro vás.

Je tedy tato myšlenka maximální AI hledající pravdu vůbec praktická?

Proč je budování pravdy GPT obrovskou výzvou

Jednou ty pochopit, jak fungují velké jazykové modely, jako je GPT, je jasné, že je nepraktické mít vždy pravdu. Typicky trénovaný na velké datové sadě internetových dat, mnoho z nich, jak se dalo předpokládat, budou nepravdivé informace a LLM nemají žádný inertní způsob, jak rozlišit fakta od fikce.

Nejlepší intervence je obvykle od lidských školitelů, kteří se snaží naučit jazykový model, co je dobré chování a co je špatné. Ale lidští trenéři jsou zaujatí. Předpojatost je předána modelům AI, čímž je zmařen celý účel „AI hledající maximální pravdu“. Všimněte si, nemluvíme o přímé zaujatosti nebo předsudcích vůči lidem nebo jinak. Je to jemnější zaujatost ohledně toho, jak interpretujete jazyk, situace, výzvy a tak dále. Lidé jsou koneckonců lidé.

Přesnost lze samozřejmě řešit i ze strany algoritmu. Nicméně, bez ohledu na algoritmus, jazyková nejednoznačnost stále představuje velký problém pro přesnost modelů AI. Dokonce i lidé se často snaží přesně interpretovat význam věty nebo fráze, což vede k dezinformacím. U modelů AI může nejednoznačnost vést k nesprávným interpretacím, které mohou vést k nepřesnostem.

Pro Muska se zdá, že TruthGPT je šancí vyřezat model umělé inteligence, který považuje za vhodný, aby přinesl pravdu. Jak by k tomu došlo, aniž by uvedl své vlastní předsudky, je zcela jiná otázka a účinně nás vede zpět na začátek konverzace. Jak se Muskovy názory na to, co je zaujaté nebo co se neliší od těch, kteří trénovali a řídili ChatGPT?

Je TruthGPT vzrušující možností?

Plány Elona Muska pro TruthGPT se zdají vznešené a chvályhodné. Sestavení modelu umělé inteligence se zanedbatelným výskytem nepřesností je však těžký úkol.

I když bychom očekávali, že technický miliardář, který demystifikoval raketovou vědu, dokáže něco takového vymyslet, některé věci se snáze říkají, než dělají.