Lidstvo je ohroženo „zánikem“ umělé inteligence – jak ji lze zastavit?

Skupina předních výzkumníků a technologických firem v oblasti umělé inteligence opět varovala, že současný rychlý rozvoj umělé inteligence by mohl pro lidstvo znamenat katastrofu.

Rizika zahrnují jaderné konflikty, nemoci, dezinformace a uprchlou AI bez dohledu, z nichž všechny představují bezprostřední hrozbu pro lidské přežití.

Ale nebude ztraceno, že mnoho z těchto varování pochází od stejných lidí, kteří vedou vývoj AI a prosazují nástroje a programy umělé inteligence ve svých příslušných společnostech.

Proč technologické společnosti a vědci AI varují před rizikem AI?

Dne 30. května 2023 vydalo více než 350 výzkumníků, vývojářů a inženýrů AI podepsané prohlášení varující před hrozbou AI pro lidstvo.

Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka.

Signatáři do Safe.ai prohlášení

zahrnoval Sam Altman z OpenAI, Demis Hassabis z Google DeepMind a Dario Amodei z Anthropic spolu s Turingem Držitelé cen Geoffrey Hinton a Yoshua Bengio (i když Yann LeCun, který také vyhrál stejnou cenu, zapomněl podepsat). Seznam je skoro jako kdo je kdo ve světě vývoje umělé inteligence – lidé, kteří s umělou inteligencí vedou cestu – a přesto jsou zde všichni a varují, že umělá inteligence může pro lidstvo znamenat katastrofu.

Je to krátké prohlášení, které objasňuje hrozby, konkrétně uvádí dvě klíčové oblasti, které by mohly ohrozit svět, jak ho známe: jadernou válku a globální zdravotní problémy. Zatímco hrozba jaderného konfliktu je znepokojující, riziko pandemie je pro většinu hmatatelnější hrozbou.

Není to však jen globální pandemie, která by mohla způsobit zdravotní problémy související s umělou inteligencí. Opatrovník uvádí několik dalších zdravotních problémů s umělou inteligencí, které by mohly mít dopad na lidi, pokud nebudou před rozšířeným používáním zkontrolovány. Jeden příklad se týkal používání oxymetrů poháněných umělou inteligencí, které „nadhodnotily hladiny kyslíku v krvi u pacientů s tmavší kůží, což mělo za následek nedostatečnou léčbu jejich hypoxie“.

Navíc to není poprvé, co skupina technologických lídrů vyzvala k pozastavení nebo vážnému přehodnocení vývoje umělé inteligence. V březnu 2023 Elon Musk a další výzkumníci AI podepsali podobnou výzvu k akci požádat o moratorium na vývoj umělé inteligence, dokud nebude možné zavést další předpisy, které by pomohly tento proces řídit.

Jaké je riziko AI?

Většina rizik spojených s umělou inteligencí, alespoň v tomto kontextu, souvisí s rozvojem technologie umělé umělé inteligence která překračuje schopnosti lidí, v čemž se nakonec obrátí proti svému stvořiteli a vyhladí život, jak víme to. Je to příběh nesčetněkrát pokrytý sci-fi psaním, ale realita je nyní blíž, než si možná myslíme.

Velké jazykové modely (které podporují nástroje jako ChatGPT) drasticky narůstají ve schopnostech. Nicméně, nástroje jako ChatGPT mají mnoho problémů, jako je inherentní zaujatost, obavy o soukromí a halucinace umělé inteligence, natož jeho schopnost nechat se prolomit vězením a jednat mimo hranice svých naprogramovaných podmínek.

Jak velké jazykové modely rostou a mají více datových bodů, na které lze volat, spolu s přístupem k internetu a více vědci AI se obávají, že pochopení současných událostí by mohlo jednoho dne, slovy generálního ředitele OpenAI, Sama Altmana, „docela jít špatně."

Jak vlády regulují vývoj umělé inteligence, aby zastavily rizika?

Regulace AI je klíčem k prevenci rizik. Začátkem května 2023 Sam Altman vyzval k větší regulaci AI, kde se uvádí, že „regulační zásahy vlád budou zásadní pro zmírnění rizik stále silnějších modelů“.

Poté, Evropská unie oznámila zákon o AI, nařízení navržené tak, aby poskytovalo mnohem pevnější rámec pro rozvoj umělé inteligence v celé EU (s mnoha nařízeními přecházejícími do jiných jurisdikcí). Altman zpočátku vyhrožoval stažením OpenAI z EU, ale poté svou hrozbu opustil a souhlasil, že společnost splní nařízení o AI, o které dříve požádal.

Bez ohledu na to je jasné, že regulace vývoje a používání AI je důležitá.

Ukončí AI lidstvo?

Vzhledem k tomu, že velká část debat na toto téma je postavena na hypotetických předpokladech o síle budoucích verzí umělé inteligence, existují problémy týkající se životnosti a síly, kterou může mít jakákoli regulace umělé inteligence. Jak nejlépe regulovat průmysl, který se již pohybuje rychlostí tisíc mil za minutu a denně dochází k průlomům ve vývoji?

Kromě toho stále existují určité pochybnosti o schopnostech AI obecně a o tom, kde skončí. Zatímco ti, kteří se obávají nejhoršího, poukazují na to, že se z umělé inteligence stane lidský vládce, jiní poukazují na to skutečnost, že současné verze umělé inteligence neumí ani základní matematické otázky a že plně samořídící auta jsou stále vypnuto.

Je těžké nesouhlasit s těmi, kteří hledí do budoucnosti. Mnoho lidí, kteří nejhlasitěji křičí o problémech, které může AI představovat, sedí v sedadle řidiče a dívají se, kam bychom mohli směřovat. Pokud jsou to oni, kdo požadují regulaci AI, aby nás ochránila před potenciálně strašlivou budoucností, možná je čas naslouchat.