S neuvěřitelným úspěchem nástroje Chatbot společnosti OpenAI, ChatGPT, jsou mnozí nadšeni, že uvidí, co bude společnost dělat dál. Generální ředitel OpenAI však nyní vyzval k další regulaci kolem AI. Proč tomu tak je, jaký to bude mít efekt a existuje zde nějaký motiv pro OpenAI?
Proč Sam Altman požaduje větší regulaci AI?
Sam Altman je generálním ředitelem OpenAI, společnosti, která stojí za tím Nástroj pro zpracování jazyka ChatGPT. ChatGPT se stal celosvětovou senzací, ale i přes jeho úspěch nyní Altman tlačí na další regulaci AI.
16. května 2023 se Altman objevil na slyšení senátního podvýboru pro soudnictví a vyzval členy Kongresu, aby pokračovali v regulaci AI. Při slyšení generální ředitel OpenAI uvedl, že „regulace AI je nezbytná“ a to „regulační zásahy vlád budou zásadní pro zmírnění rizik rostoucího počtu výkonné modely."
Altman také navrhl, že „vláda USA by mohla zvážit kombinaci požadavků na licencování a testování vývoj a vydání modelů umělé inteligence nad prahem schopností,“ jak je vidět ve streamu CNBC spojeného se slyšením níže.
Altman během slyšení uznal svou lásku ke komunitě AI s otevřeným zdrojovým kódem a dokonce to navrhl Umělá inteligence může jednoho dne pomoci vypořádat se se změnou klimatu a vyléčit rakovinu.
Altman však také připomněl Kongresu, že „relativně malý počet poskytovatelů“ může vyrábět špičkové služby a nástroje, s nimiž přichází „výhoda a nebezpečí." Altman dále uvedl, že méně předních vývojářů umělé inteligence, na které by bylo možné dohlížet, může být pro vládu přínosem, pokud mají spotřebitelé stále dostatek volby.
Během slyšení senátor Richard Blumenthal označil AI za „bombu v čínském obchodě, nikoli býka“. Politička Amy Klobucharová navíc vyjádřila své obavy z toho, jak mohou nástroje jako ChatGPT přispět k volbám dezinformace.
Je tedy zřejmé, že profesionálové a zákonodárci se obávají umělé inteligence a jejího budoucího dopadu. Jaký dopad však bude mít další regulace na průmysl AI? Bude to dobrá nebo špatná věc?
Jak více regulace prospěje průmyslu AI?
Existuje několik důvodů, proč by regulace AI mohla být výhodou, a to jak pro vývojáře, tak pro spotřebitele.
Za prvé, vládní nařízení může zabránit škodlivé použití AI. Zločinci běžně zneužívají nové technologie k útokům a podvodům. Vzhledem k obrovskému potenciálu umělé inteligence má smysl implementovat předpisy týkající se etického používání, aby se pomocí této technologie nemnožily trestné činy.
Například výrobci umělé inteligence potřebují přísnou regulaci, aby zabránili výrobě technologie umělé inteligence, která může představovat hrozbu pro lidský život. Alternativně může být po vývojářích a společnostech AI požadováno, aby požádali o licenci před výrobou a uvolněním hardwaru nebo softwaru poháněného AI. Společnost bude muset projít auditem, než jí bude uděleno povolení vyrábět produkty AI, nebo bude muset před vydáním splnit určitá testovací kritéria.
Někteří však mohou považovat regulaci AI za špatnou zprávu, zejména vývojáři, kteří nechtějí omezení toho, co mohou a nemohou vyrábět a vydávat veřejnosti. Pokud regulace umělé inteligence zabrání vývojářům ve výzkumu a vytváření převratných technologií, jako je zdravotnické vybavení, může se to ukázat lidstvu škodlivější než cokoli jiného.
Někteří se také domnívají, že je příliš brzo mluvit o regulaci umělé inteligence, ačkoli přítomnost umělé inteligence v dnešním tolika průmyslových odvětvích se zdá být v rozporu s tímto názorem.
Je regulace AI dobrou zprávou pro OpenAI?
Výzva Sama Altmana po větší regulaci umělé inteligence vyvolala otázky, zda taková omezení skutečně prospějí OpenAI.
Těžko říci, zda další regulace bude pro OpenAI čistým pozitivem. Ve výše zmíněném senátním slyšení však Altman navrhl, že by jím měly být společnosti s umělou inteligencí, jako je OpenAI nezávisle auditovaný a řádně licencovaný, což naznačuje, že se rád podílí na tomto nárůstu nařízení.
Zdá se, že Altman se oprávněně obává, že se AI vymkne kontrole, a proto oslovil Kongres. Během slyšení však Altman pochválil ChatGPT a uvedl, že chatbot AI OpenAI je „pravděpodobnější reagovat vstřícně a pravdivě a odmítat škodlivé požadavky než jakýkoli jiný podobný model schopnost."
Není divu, že Altman zde má něco jako zaujatost, protože ChatGPT je duchovním dítětem společnosti, kterou vede. Další regulace by však mohla vést k tomu, že větší, předem zavedené společnosti s umělou inteligencí budou mít výhodu zejména oproti menším organizacím pokud jsou licence, povolení a dlouhé zkušební doby zákonným požadavkem (protože by to mohlo způsobit vyšší náklady a vyžadovat více personál).
Regulace AI je předmětem sporu
V současné době existuje mnoho různých názorů a představ ohledně regulace AI. Zatímco někteří si myslí, že této technologii je třeba vládnout, jiní by byli raději, kdyby zůstala taková, jaká je. V blízké budoucnosti mohou země po celém světě zavést nové zákony o umělé inteligenci a my si budeme muset počkat, zda se to ukáže jako požehnání nebo prokletí.