ChatGPT je užitečný pro mnoho úkolů, ale existují některé kritické nedostatky, které by vás měly přimět dvakrát si rozmyslet, než mu důvěřujete kvůli lékařské pomoci.
ChatGPT – chatbot s umělou inteligencí (AI) vyvinutý společností OpenAI – se stal komplexním nástrojem pro zodpovězení mnoha jednoduchých i obtížných otázek, včetně žádostí o lékařskou pomoc. Může odpovídat na lékařské otázky a řídit se lékařskou licenční zkouškou Spojených států (USMLE), ale nemůže nahradit schůzku s lékařem v nemocnici.
Jak ChatGPT postupuje, má potenciál zcela transformovat sektor zdravotnictví. Při integraci se zdravotnickými systémy může zlepšit přístup pacientů k péči a zvýšit efektivitu práce lékařů. Protože je však založen na umělé inteligenci, existuje několik obav z jeho potenciálních nebezpečí.
1. ChatGPT má omezené znalosti
ChatGPT neví všechno. Podle OpenAI má ChatGPT omezené znalosti, zejména pokud jde o to, co se stalo po září 2021.
ChatGPT nemá přímý přístup k vyhledávačům nebo internetu. Byl trénován pomocí obrovského množství textových dat z mnoha zdrojů, včetně knih, webových stránek a dalších textů. „Nezná“ data, která doručuje. Místo toho používá ChatGPT text, který přečetl, k vytváření předpovědí o slovech, která se mají použít, a v jakém pořadí.
Proto nemůže získat aktuální zprávy o vývoji v lékařských oborech. Ano, ChatGPT nezná transplantaci srdce z prasete na člověka ani žádný jiný velmi nedávný průlom v lékařské vědě.
2. ChatGPT může produkovat nesprávné informace
ChatGPT může odpovědět na otázky, které položíte, ale odpovědi mohou být nepřesné nebo zaujaté. Podle a PLoS Digital Health Studie ChatGPT provedla s alespoň 50% přesností napříč všemi vyšetřeními USMLE. A i když v některých ohledech překročil 60% práh, stále existuje možnost chyby.
Kromě toho ne všechny informace použité k výcviku ChatGPT jsou autentické. Odpovědi založené na neověřených nebo potenciálně zkreslených informacích mohou být nesprávné nebo zastaralé. Ve světě medicíny mohou nepřesné informace stát i život.
Protože ChatGPT nemůže nezávisle zkoumat nebo ověřovat materiál, nemůže rozlišovat mezi skutečností a fikcí. Respektované lékařské časopisy, včetně Journal of the American Medical Association (JAMA), mají zavedl přísná pravidla, že pouze lidé mohou psát vědecké studie publikované v časopis. Jako výsledek, měli byste neustále kontrolovat odpovědi ChatGPT.
3. ChatGPT vás fyzicky nezkoumá
Lékařská diagnóza nezávisí pouze na symptomech. Lékaři mohou získat náhled na vzorec a závažnost onemocnění prostřednictvím fyzického vyšetření pacienta. K diagnostice pacientů dnes lékaři používají jak lékařské technologie, tak pět smyslů.
ChatGPT nemůže provést kompletní virtuální prohlídku nebo dokonce fyzické vyšetření; může odpovědět pouze na příznaky, které poskytnete jako zprávy. Pro bezpečnost a péči o pacienta mohou být chyby ve fyzikálním vyšetření – nebo úplné ignorování fyzikálního vyšetření – škodlivé. Protože vás ChatGPT fyzicky nevyšetřil, nabídne nesprávnou diagnózu.
4. ChatGPT může poskytovat nepravdivé informace
Nedávná studie společnosti Lékařská fakulta Marylandské univerzity na doporučení ChatGPT pro screening rakoviny prsu zjistil následující výsledky:
"Z naší zkušenosti jsme viděli, že ChatGPT někdy vymýšlí falešné články v časopisech nebo zdravotní konsorcia, aby podpořila svá tvrzení." —Paul Yi M.D., odborný asistent diagnostické radiologie a nukleární medicíny na UMSOM
V rámci našeho testování ChatGPT jsme požádali o seznam knih literatury faktu, které pokrývají téma podvědomí. Výsledkem bylo, že ChatGPT vytvořil falešnou knihu s názvem „Síla nevědomé mysli“ od Dr. Gustava Kuhna.
Když jsme se na knihu zeptali, odpovědělo, že to byla „hypotetická“ kniha, kterou vytvořil. ChatGPT vám neřekne, zda je článek v časopise nebo kniha nepravdivá, pokud se nebudete dále ptát.
5. ChatGPT je pouze jazykový model AI
Jazykové modely fungují spíše na základě memorování a zobecňování textu, než aby zkoumaly nebo studovaly stav pacienta. Navzdory generování odpovědí, které odpovídají lidským standardům, pokud jde o jazyk a gramatiku, ChatGPT stále obsahuje řadu problémů, podobně jako ostatní roboti AI.
ChatGPT není náhrada za vašeho lékaře
Lidští lékaři budou vždy potřeba, aby učinili poslední rozhodnutí o zdravotní péči. ChatGPT obvykle doporučuje mluvit s licencovaným lékařem, když požádáte o lékařskou pomoc.
Nástroje poháněné umělou inteligencí, jako je ChatGPT, lze použít k plánování návštěv lékaře, pomoci pacientům při léčbě a udržování jejich zdravotních informací. Ale nemůže nahradit odbornost a empatii lékaře.
Při diagnostice nebo léčbě svého zdraví, ať už fyzického nebo duševního, byste se neměli spoléhat na nástroj založený na umělé inteligenci.
