Nejnovější inovace v oblasti technologií založených na umělé inteligenci posouvají hranice toho, co jsme si kdysi mysleli, že je s umělou inteligencí možné. Nicméně, když jsou chatboti jako ChatGPT a Bing Chat v několika věcech téměř tak dobří jako lidé, je čas na chvíli šlápnout na brzdu?
Elon Musk a několik výzkumníků AI patří mezi 1 188 lidí (v době psaní tohoto článku), kteří si to myslí. Dopis zveřejněný neziskovým institutem Future of Life vyzývá k šestiměsíční pauze na školení technologií AI lepších než GPT 4, ale je pauza skutečně nutná?
O čem je otevřený dopis o budoucnosti života?
The dopis zveřejněný Institutem budoucnosti života poukazuje na to, že laboratoře umělé inteligence byly „uzamčeny v závodě mimo kontrolu“, aby vyvíjely a nasazovaly další a výkonnější modely umělé inteligence, které nikdo, včetně jejich tvůrců, nemůže „pochopit, předvídat ani spolehlivě“. řízení".
Poukazuje také na to, že současné systémy umělé inteligence se nyní stávají konkurenceschopnými pro lidi při plnění obecných úkolů a požadavků zda bychom měli vyvinout „nelidské mysli, které by nakonec mohly převýšit, přechytračit, zastaraly a nahradit nás".
Dopis nakonec vyzývá všechny laboratoře umělé inteligence, aby okamžitě pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4 po dobu nejméně šesti měsíců. Pauza by měla být veřejná a ověřitelná u všech klíčových aktérů. Rovněž uvádí, že pokud takovou pauzu nelze rychle vynutit, vlády by měly zasáhnout a dočasně zakázat školení modelů AI.
Jakmile je pauza aktivní, laboratoře umělé inteligence a nezávislí odborníci jsou požádáni, aby ji použili ke společnému vývoji a implementaci a "sdílená sada bezpečnostních protokolů", aby bylo zajištěno, že systémy dodržující tato pravidla jsou "bezpečné nad rámec rozumných možností." pochybovat".
Tento dopis podepsalo několik jmenovaných osobností, včetně Elona Muska, Steva Wozniaka a výzkumníků a autorů AI. Ve skutečnosti je seznam signatářů momentálně pozastaven kvůli vysoké poptávce.
Jaké má Musk obavy z Advanced AI Tech a OpenAI?
I když podpis dopisu Future of Life může naznačovat, že Musk je znepokojen bezpečnostními riziky, která takové pokročilé systémy umělé inteligence představují, skutečným důvodem může být něco jiného.
Musk spoluzaložil OpenAI se současným generálním ředitelem Samem Altmanem v roce 2015 jako nezisková organizace. Později v roce 2018 si ale s Altmanem potykal, když si uvědomil, že není spokojený s pokrokem společnosti. Musk údajně chtěl převzít, aby urychlil vývoj, ale Altman a představenstvo OpenAI tento nápad zavrhli.
Musk odešel z OpenAI krátce poté a vzal si s sebou své peníze, čímž porušil svůj slib přispět 1 miliardou na financování a před odjezdem dal pouze 100 milionů. To donutilo OpenAI, aby se krátce poté v březnu 2019 stala soukromou společností, aby získala finanční prostředky na pokračování svého výzkumu.
Dalším důvodem, proč Musk odešel, bylo, že vývoj AI v Tesle by v budoucnu způsobil střet zájmů. Je zřejmé, že Tesla potřebuje pokročilé systémy umělé inteligence Plné funkce samořízení. Od té doby, co Musk opustil OpenAI, společnost utekla se svými modely AI a začala ChatGPT s podporou GPT3.5 v roce 2022 a později v návaznosti na GPT-4 v březnu 2023.
Skutečnost, že Muskův tým AI není ani zdaleka OpenAI, je třeba vzít v úvahu pokaždé, když říká, že moderní modely AI mohou představovat riziko. Také neměl žádné problémy uvedení beta verze Tesla Full Self-Driving na veřejných komunikacích, což v podstatě proměnilo běžné řidiče Tesly na beta testery.
Ani tady to nekončí. Musk byl také spíše kritický k OpenAI na Twitteru, přičemž Altman zašel tak daleko, že řekl, že na ně útočí, když se nedávno objevil v podcastu „On with Kara Swisher“.
V tuto chvíli to vypadá, že Musk právě používá dopis o budoucnosti života k zastavení vývoje v OpenAI a jakékoli jiné firmě, která ho dohání. na GPT-4, aby dal svým společnostem šanci dohnat zameškané místo toho, aby se skutečně zajímal o potenciální nebezpečí těchto modelů AI póza. Všimněte si, že dopis také žádá o pozastavení „školení“ systémů umělé inteligence na šest měsíců, což lze poměrně snadno obejít a mezitím je dále rozvíjet.
Je pauza opravdu nutná?
Nutnost pauzy závisí na stavu modelů umělé inteligence. Dopis má rozhodně trochu dramatický tón a my neriskujeme ztrátu kontroly nad naší civilizací kvůli AI, jak to tak otevřeně říká. Bylo řečeno, Technologie AI představují několik hrozeb.
Vzhledem k tomu, že OpenAI a další laboratoře umělé inteligence mohou přijít s lepšími bezpečnostními kontrolami, pauza by nadělala více škody než užitku. Návrh souboru sdílených bezpečnostních protokolů, které jsou „přísně kontrolovány a kontrolovány nezávislými externími odborníky“, však zní jako dobrý nápad.
Vzhledem k tomu, že techničtí giganti jako Google a Microsoft nalévají miliardy do vývoje a integrace AI do svých produktů, je nepravděpodobné, že dopis ovlivní současné tempo vývoje AI.
AI je tady, aby zůstala
S technologickými giganty, kteří posouvají integraci AI do svých produktů dále a investují miliardy dolarů do výzkumu a vývoje, AI tu zůstane, bez ohledu na to, co říká opozice.
Není však špatný nápad zavést bezpečnostní opatření, která zabrání tomu, aby se tyto technologie dostaly mimo koleje a potenciálně se nestaly nástroji ke škodě.