V oblasti umělé inteligence dochází k bezprecedentnímu pokroku a téměř každý týden dochází k novému vývoji. Generativní nástroje AI, jako je ChatGPT, jsou nyní tak populární, že jsou integrovány všude.
Ale měli bychom? Používání technologie AI pro produktivitu, vzdělávání a zábavu dává smysl. Společnosti však nyní uvažují o tom, že jej vloží přímo do našich aplikací pro zasílání zpráv, a to se může ukázat jako destruktivní. Zde je sedm důvodů proč.
1. AI chatboti mají tendenci halucinovat
Pokud jste použili ChatGPT, Bing nebo Bard, víte, že generativní AI chatboti mají tendenci „halucinovat“. Halucinace AI je, když si tito chatboti vymýšlejí věci kvůli nedostatku adekvátních tréninkových dat na dotaz požadovaný uživatelem.
Jinými slovy, poskytují dezinformace, ale znějí o nich sebevědomě, jako by to byla skutečnost. To je velký problém, protože mnoho lidí při používání chatbota neověřuje fakta a věří, že je to ve výchozím nastavení přesné. Je to jeden z největších chyb, kterým je třeba se vyhnout při používání nástrojů AI.
Když vložíte aplikace pro zasílání zpráv, množství škody, kterou může způsobit, je ještě větší, protože lidé by to mohli použít k (záměrně nebo neúmyslně) šířit dezinformace mezi svými kontakty a na sociálních sítích, šířit propagandu a podporovat echo komory.
2. Lidé neradi mluví s roboty
Představte si, jak nepříjemné je, když se pokoušíte kontaktovat zákaznickou podporu společnosti a jste nuceni mluvit s chatbot místo skutečného lidského manažera, který dokáže skutečně pochopit nuance vašeho problému a nabídnout vhodné vedení.
Totéž platí pro osobní rozhovory. Představte si, že mluvíte se svým přítelem a v polovině si uvědomíte, že k tomu používali AI reagovat na vaše zprávy po celou dobu, místo toho, aby to dělali sami na základě svých myšlenek a názory.
Pokud jste jako většina lidí, okamžitě byste se cítili uraženi a vnímali použití AI v soukromé konverzaci jako necitlivý, strašidelný a dokonce pasivně agresivní, jako by vás ten druhý nepovažoval za hodného času, pozornosti a empatie.
Používání umělé inteligence například k psaní e-mailů je pochopitelné, protože se jedná o profesionální interakci, ale její použití v osobních rozhovorech nebude něco, co by chtěl někdo podporovat. Jakmile novinka této technologie odezní, bude neslušné ji v tomto kontextu používat.
3. AI nemůže zkopírovat vaši jedinečnou tonalitu
Generativní nástroje umělé inteligence už dnes umožňují měnit tonalitu vašeho sdělení, například formální, veselý nebo neutrální v závislosti na tom, s kým si píšete a jak chcete narazit. Magic Compose ve Zprávách Googletotéž vám umožňuje například .
I když je to dobré, mějte na paměti, že tyto tonality jsou trénovány na základě nastavených tréninkových dat a nikoli vaší osobní historie chatu, takže nemohou replikovat vaši jedinečnou tonalitu nebo emotikony, které byste obvykle používali.
Možná vás to moc nezajímá, zvláště pokud používáte AI k psaní jednoduchých pracovních e-mailů, pro které všichni víceméně používají stejnou formální tonalitu. Ale záleží mnohem víc, než si možná uvědomujete, když ho používáte k hovoru s přáteli a rodinou v aplikaci pro zasílání zpráv.
Dokud vám nástroje AI neumožní trénovat jejich jazykový model na základě vaší historie chatu, nebudou schopny replikovat váš jedinečný dialekt a výstřednosti. To znamená, že tento problém není tak těžké vyřešit, takže se možná brzy dočkáme jeho implementace.
4. Psaní dobrých výzev vyžaduje čas
Získání požadovaných výsledků od chatbota AI silně závisí na kvalitě vaší výzvy. Pokud napíšete špatnou výzvu, dostanete špatnou odpověď a budete muset výzvu upřesnit, dokud nedosáhnete uspokojivého výsledku.
Tento proces má smysl, když chcete psát dlouhý obsah, ale je extrémně neefektivní při psaní více krátkých odpovědí v neformální konverzaci.
Čas, který může trvat vylepšení vašich výzev a získání použitelných odpovědí, bude ve většině případů delší než čas, který by vám zabralo, kdybyste zprávy psali sami.
5. Umělá inteligence může mít urážlivé výsledky
Kromě přesnosti je jedním z nich zkreslení největší problémy s generativní AI. Někteří lidé vnímají AI jako nezaujatou, protože nemá své vlastní motivy. Lidé za těmito nástroji AI jsou však v konečném důsledku lidé se svými vlastními předsudky.
Jinými slovy, do systému je zapečena předpojatost. Umělá inteligence ze své podstaty nerozumí tomu, co je považováno za urážlivé a co ne, takže může být například trénováno být zaujatý vůči určitým skupinám lidí nebo určitým kulturám – což má v procesu urážlivé výsledky.
6. AI nemusí rozumět sarkasmu nebo humoru
Umělá inteligence porozuměla figurám řeči, jako je ironie a metafora, se postupem času zlepšuje, ale stále ještě zdaleka není v bodě, kdy by ji bylo možné použít v konverzaci k rozpoznání humoru. Když jsme například požádali Barda z Googlu, aby byl sarkastický, výsledky byly jednoznačné.
V některých případech to bylo opravdu vtipné a hrálo to spolu s mým sarkasmem. Ale v jiných případech se buď vrátila zpět na nezábavnou odpověď cookie-cutter, nebo prostě odmítla zúčastněte se konverzace a řekněte, že jelikož je to jen LLM, nemůže mi pomoci dotaz.
7. Spoléhání na AI může vést ke špatné komunikaci
Dalším jemným, ale podstatným problémem s integrací generativní umělé inteligence do aplikací pro zasílání zpráv je to, jak může ovlivnit naši schopnost komunikovat. Pokud se při vzájemné konverzaci stále více spoléháme na AI, může to bránit naší schopnosti trénovat naši emoční inteligenci a sociální dovednosti.
Jde o to, že čím více zadáme naše sociální potřeby AI, tím hůře se nám bude sdělovat myšlenky organickými prostředky. Jinými slovy, čím více používáte AI k hovoru se svými kontakty, tím pravděpodobněji zhoršíte kvalitu svých vztahů.
Ne všechno musí mít AI
S příchodem nových technologií jsme často tak zaneprázdněni zjišťováním, jak je používat, že se nám nedaří hádat se, zda bychom je vůbec měli používat.
I když je zcela smysluplné používat generativní umělou inteligenci pro psaní e-mailů, brainstorming nápadů nebo vytváření obrázků pro prezentace, její integrace do aplikací pro zasílání zpráv vyvolává spoustu kritiky.