Jen za posledních několik let se schopnosti umělé inteligence výrazně zlepšily. Dnes můžeme pomocí umělé inteligence vytvářet umění, psát příběhy, poznávat svět a mnoho dalšího. Ale děje se to všechno příliš brzy? Rozvíjí se umělá inteligence příliš rychle a jaké známky tomu nasvědčují?
Proč se lidé zajímají o AI?
Koncem března 2023 vyšel online dokument Future of Life Institute s názvem „Pozastavit obří experimenty s umělou inteligencí: Otevřený dopis“. Dokument obsahoval argumenty proti vývoji umělé inteligence po sofistikovanosti GPT-4, nejnovější iterace chatbota s umělou inteligencí OpenAI.
V dopise bylo napsáno, že „systémy umělé inteligence s lidskou konkurenční inteligencí mohou představovat vážná rizika pro společnost a lidstvo“ a že „výkonné systémy umělé inteligence by měly být vyvinuty pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelné."
Řada prominentních osobností v oblasti technologií včetně Steve Wozniaka a Elon Musk podepsal dopis a chce pozastavit vývoj AI
. Tato prosba o zastavení vývoje AI zpochybnila, jak nebezpečná se AI stává a jaká rizika představuje pro lidský život.Jaké znaky tedy naznačují, že se AI pohybuje příliš rychle?
1. Soutěžení s lidmi
Už jsme viděli, jak technologie nahrazují lidské pracovníky v bezpočtu scénářů. Když zamíříte do restaurace rychlého občerstvení, můžete si nyní objednávat přes obrazovku počítače, a když si chcete koupit potraviny, můžete provést pokladnu pomocí automatického systému. To může být rychlá a pohodlná možnost, ale jak se automatizace stává v různých průmyslových odvětvích stále důležitější, potřeba lidských pracovníků klesá.
Tady začíná problém. Lidé samozřejmě musí pracovat, aby se uživili, ale vzestup automatizace to značně ztěžuje. To platí zejména pro pracovníky s minimální mzdou, jako jsou pracovníci v potravinářském průmyslu, výrobě a maloobchodu. Základní úkony, jako je odhlašování objednávek, vyzvedávání nákladů a úklid, to vše mohou být prováděny stroji. Integrace umělé inteligence znamená, že brzy již nebudeme potřebovat operátory pro tuto technologii.
Informoval o tom FormStack že 76 % podniků používá automatizaci ke standardizaci nebo automatizaci každodenních pracovních postupů. A s Zapier uvádí, že 94 % pracovníků uvedlo, že jejich práce zahrnuje opakující se a časově náročné úkoly, Automatizace založená na umělé inteligenci by se mohla velmi snadno stát většinovou součástí globální pracovní síly napříč všemi průmyslová odvětví.
2. Povzbuzování lidské lenosti
Jednou z klíčových výhod AI je to, že může zjednodušit tolik úkolů. Tato vymoženost ale může velmi snadno ustoupit lenosti. A v některých případech se to již stalo.
Vezměte si například ChatGPT. Pomocí ChatGPT můžete dělat různé věci jako psaní esejí, zkoumání témat, vytváření vtipů, překládání textu a mnoho dalšího. Mít službu, která za vás dokáže rychle provádět úkoly, je skvělé, ale zároveň nás vede k samolibosti. Zakrnělé úsilí a kreativita tímto způsobem mohou mít jistě negativní vliv na lidstvo jako celek, což je klíčový důvod, proč se tolik lidí obává AI.
Na služby založené na umělé inteligenci jsme v dnešní době tak zvyklí, že jsme jim přirozeně hodně důvěřovali. Například virtuální asistentka společnosti Microsoft, Cortana, používá strojové učení a umělou inteligenci k provádění příkazů uživatelů. Mnoho dalších virtuálních asistentů, včetně Siri od Apple, také používá k fungování AI.
Důvěra v tuto technologii může být bezpečná, ale ve skutečnosti o tom není nic vědět, zvláště vzhledem k tomu, že AI je stále ve velmi vývojové fázi.
3. Šíření falešných informací
V mainstreamových sférách si AI získala mnoho proslulosti díky své schopnosti vytvářet umění, obrázky a videa. Služby založené na umělé inteligenci lze nejen používat k vytváření umění, ale mohou také vytvářet zvláště kontroverzní formu médií známou jako deepfakes. Deepfakes jsou videa, na kterých je obličej osoby překrytý na těle jiné osoby.
Zní to docela zábavně, ale lze to velmi snadno zneužít.
Již existují tisíce videí celebrit a politických osobností, které prostřednictvím deepfakes říkají neuvěřitelně oplzlé a nevhodné věci. Zatímco některé deepfakes lze velmi snadno identifikovat, některé jsou tak sofistikované, že je těžké rozeznat, zda jsou skutečné nebo ne. Když se to stane, lidé mohou předpokládat, že veřejná osoba řekla něco, co ve skutečnosti nikdy neřekli.
Z toho si lidé udělají názory na tato videa, čímž přispějí k šíření dezinformací online.
A co víc, chatboti pohánění umělou inteligencí mohou uživatelům poskytovat nepravdivé informace. Chatboti jako ChatGPT, Boost. AI a Drift mohou uživatelům poskytnout mnoho informací, ale tyto informace nemusí být vždy přesné. Jak diskutoval OpatrovníkAI chatboti nejsou v žádném případě odhodláni poskytovat vám pravdivé informace, což znamená, že falešné zprávy mohou velmi snadno proklouznout trhlinami a dostat se k vám.
4. Vytvoření malwaru
Začátkem roku 2023 začala kolovat zpráva zákeřní herci vytvářející malware pomocí ChatGPT. V tomto případě kybernetická analytická firma Check Point Research zjistila, že jednotlivci diskutovali o výhodách používání ChatGPT k vytvoření malwaru na hackerském fóru. Autor příspěvku na fóru sdílel infostealer, který napsal v Pythonu pomocí ChatGPT, čímž povzbudil další škodlivé aktéry k vytvoření malwaru pomocí chatbota.
Malwarové programy je třeba kódovat, což může být časově náročné, zvláště pokud tvůrce nepoužívá šablonu z již existujícího programu.
Pomocí ChatGPT mohou zákeřní aktéři nejen zefektivnit proces tvorby malwaru, ale technologicky méně zdatní jednotlivci mohou malware vytvářet. Vzhledem k tomu, že sofistikovanost umělé inteligence pokračuje vpřed, může být možné vytvořit neuvěřitelně sofistikovaný malware, který dokáže obejít antivirovou detekci, ověřování, firewally a další ochranná opatření.
5. Nedostatek regulace
Častým problémem v technologickém průmyslu je nedostatek regulace pro novější služby, jako jsou platformy založené na blockchainu a produkty AI. Nedostatek regulace může být některými považován za dobrou věc, ale může také ustoupit nezákonným praktikám.
Nejen, že nedostatek regulace může vést k nárůstu podvodů a kyberzločinů poháněných umělou inteligencí, ale způsob, jakým výzkumníci vyvíjejí technologie umělé inteligence, může také začít překračovat některé vážné hranice. Při jednání s umělou inteligencí je třeba vzít v úvahu etické aspekty. Může se systém stát příliš vědomým? Jaký druh účinky bude mít AI na lidský život? Měli bychom tímto způsobem využívat AI? Seznam otázek pokračuje dál a dál.
Bez regulace mohou některé společnosti začít překračovat morální hranice, což by zase mohla být velmi špatná zpráva pro širší veřejnost.
AI se pohybuje rychlým tempem a jistě představuje riziko
Nelze popřít, že potenciál umělé inteligence je obrovský, ale měl by být vhodně využit, aby se snížila šance, že se věci vymknou kontrole. Už jsme viděli, jak je umělá inteligence zneužívána se zlým úmyslem, takže nevíme, jak by se tento problém mohl vyvinout s dalším pokrokem. Čas ukáže, zda se AI stane v našem světě požehnáním nebo prokletím, a způsob, jakým se s ní nyní zachází, bude v tomto výsledku jistě hrát roli.