Zatímco proprietární software jako GPT a PaLM dominuje trhu, mnoho vývojářů vidí hodnotu v modelech jazyků s otevřeným zdrojovým kódem. Vezměte si jako příklad Meta. V únoru 2023 se dostal do titulků oficiálního vydání velkého jazykového modelu LLaMA jako programu s otevřeným zdrojovým kódem. Není překvapením, že se toto rozhodnutí setkalo se smíšenými reakcemi.
Protože jazykové modely s otevřeným zdrojovým kódem mají mnoho pro a proti a mohou pozitivně i negativně ovlivnit odvětví umělé inteligence, shrnuli jsme klíčové body, které byste měli znát a rozumět jim.
5 Pozitivní dopady jazykových modelů s otevřeným zdrojovým kódem
Open-source jazykové modely podporují přístup založený na spolupráci. Vstupy, recenze a případy použití od vývojářů z celého světa jim pravděpodobně pomáhají postupovat rychleji než uzavřené projekty.
1. Vývojáři AI šetří zdroje pomocí modelů s otevřeným zdrojovým kódem
Spuštění proprietárních jazykových modelů stojí miliony, ne-li miliardy zdrojů. Vezměte si OpenAI jako příklad.
Business Insider uvádí, že společnost musela získat asi 30 miliard dolarů, aby mohla ChatGPT efektivně provozovat. Získat tolik finančních prostředků je pro většinu společností nemožné. Technologické startupy ve svých raných fázích by měly štěstí, že by dosáhly i sedmimístného čísla.Vzhledem k vysoké režii mnoho vývojářů místo toho používá open-source jazykové modely. Využitím architektury, neuronové struktury, trénovacích dat, algoritmu, implementace kódu a trénovacích datových sad těchto systémů šetří miliony.
2. Modely s otevřeným zdrojem pravděpodobně postupují rychleji
Mnoho technologických lídrů tvrdí, že open-source jazykové modely postupují rychleji než proprietární protějšky. Oceňují příspěvky komunity a spolupráci. Na otevřených projektech pracují miliony zkušených vývojářů – teoreticky by mohli dosáhnout bezchybné a sofistikované iterace mnohem rychleji.
Pokrytí mezer ve znalostech je také rychlejší s open source AI. Namísto školení týmů s cílem najít chyby, testovat aktualizace a prozkoumat implementace mohou společnosti analyzovat příspěvky komunity. Sdílení znalostí umožňuje uživatelům pracovat efektivněji.
Příspěvky komunity nejsou vždy přesné. Vývojáři by přesto měli algoritmy a modely před integrací do svých systémů ještě dvakrát zkontrolovat.
3. Vývojáři rychleji odhalí zranitelnosti
Jazykové modely s otevřeným zdrojovým kódem podporují vzájemné hodnocení a aktivní zapojení v rámci komunity pro spolupráci. Vývojáři mohou volně přistupovat ke změnám kódové základny. S tolika uživateli, kteří analyzují otevřené projekty, pravděpodobně rychleji odhalí bezpečnostní problémy, zranitelnosti a systémové chyby.
Stejně tak je zjednodušeno řešení chyb. Namísto ručního řešení systémových problémů mohou vývojáři zkontrolovat předchozí opravy v systému správy verzí projektu. Některé položky mohou být zastaralé. Stále však poskytnou výzkumníkům a trenérům AI užitečný výchozí bod.
4. Vedoucí AI Tech se učí z modelů s otevřeným zdrojovým kódem
Jazykové modely s otevřeným zdrojovým kódem těží ze zpětné vazby. Smyčka pozitivní zpětné vazby sdílí účinné algoritmy, datové sady a funkce, což podporuje vývojáře, aby je napodobovali. Postup jim ušetří spoustu času. Jen si uvědomte, že chyby mohou vzniknout s pozitivní zpětnou vazbou, kterou uživatelé náhodně replikují – chyby bývají přehlíženy.
Mezitím se smyčka negativní zpětné vazby zaměřuje na oblasti zlepšení. Tento proces zahrnuje sdílení osobních poznatků při řešení chyb, testování nových funkcí a opravování systémových problémů.
5. Platformy umělé inteligence s otevřeným zdrojovým kódem získají první Dibs na nových systémech
Technické společnosti nesdílejí miliardové jazykové systémy z laskavosti. Zatímco licence s otevřeným zdrojovým kódem poskytují uživatelům třetích stran svobodu upravovat a prodávat systémy, mají svá omezení.
Distributoři často vytvářejí podmínky, které jim zajišťují zachování určité autority. Tato pravidla najdete v licenčních smlouvách k programům s otevřeným zdrojovým kódem – koncoví uživatelé zřídka získají 100% oprávnění.
Řekněme, že Meta chce mít kontrolu nad produkty poháněnými LLaMA. Její právní tým by mohl upřesnit, že Meta si vyhrazuje právo investovat do jakýchkoli nových systémů postavených na jejím jazykovém modelu.
Ale nenechte se mýlit – vývojáři a distributoři třetích stran stále uzavírají vzájemně výhodné dohody. Ten poskytuje technologie a systémy za miliardy dolarů. Mezitím startupy a nezávislí vývojáři zkoumají způsoby, jak je implementovat do různých aplikací.
5 Negativní dopady jazykových modelů s otevřeným zdrojovým kódem
Open-source jazykové modely jsou ze své podstaty nezaujaté, ale lidé ne. Spotřebitelé, vývojáři a společnosti se zlými úmysly by mohli využít otevřenost těchto systémů k osobnímu zisku.
1. Společnosti se náhodně připojují k AI Race
Společnosti v současné době čelí příliš velkému tlaku, aby se připojily k závodu AI. S popularizací systémů umělé inteligence se mnoho společností obává, že pokud nepřijmou umělou inteligenci, zastarají. Výsledkem je, že značky náhodně naskakují do rozjetého vlaku. Do svých produktů integrují open-source jazykové modely z důvodu prodeje produktu a udržení kroku s konkurencí, i když nenabízejí nic hodnotného.
Ano, AI je rychle se rozvíjející trh. Ale nedbalé uvolňování sofistikovaných, ale nezabezpečených systémů poškozuje průmysl a ohrožuje bezpečnost spotřebitelů. Vývojáři by měli používat umělou inteligenci k řešení problémů, ne provozovat marketingové triky.
2. Spotřebitelé získávají přístup k technologiím, kterým sotva rozumějí
Najdete zde varianty různých technických nástrojů založené na umělé inteligenci, od online editory obrázků na aplikace pro sledování zdraví. A značky budou neustále zavádět nové systémy, jak se AI vyvíjí. Modely AI jim pomáhají poskytovat přizpůsobenější a na uživatele zaměřené iterace jejich stávajících platforem.
Zatímco technický průmysl vítá inovace, rychlý vývoj umělé inteligence předstihuje vzdělávání uživatelů. Spotřebitelé získávají přístup k technologiím, kterým sotva rozumí. Nedostatek vzdělání vytváří obrovské mezery ve znalostech, díky nimž je veřejnost náchylná k hrozbám kybernetické bezpečnosti a predátorským praktikám.
Značky by měly upřednostňovat školení stejně jako vývoj produktů. Musí uživatelům pomoci pochopit bezpečné a zodpovědné způsoby využití výkonných nástrojů založených na umělé inteligenci.
3. Ne všichni vývojáři mají dobré úmysly
Ne každý používá nástroje AI pro svůj zamýšlený účel. Například OpenAI vyvinul ChatGPT, aby odpovídal na otázky týkající se bezpečné práce a replikoval výstup přirozeného jazyka, ale zločinci jej zneužívají k nezákonným činnostem. Bylo jich několik ChatGPT podvody od spuštění chatbota AI v listopadu 2022.
I když laboratoře umělé inteligence prosazují přísná omezení, podvodníci stále najdou způsoby, jak je obejít. Vezměte si opět ChatGPT jako příklad. Uživatelé obcházejí omezení a provádějí zakázané úkoly pomocí Výzvy k útěku z vězení ChatGPT.
Níže uvedené rozhovory demonstrují tato zranitelnost. ChatGPT má omezené datové sady; proto nemůže předpovídat nestabilní, nezaručené události.
Navzdory svým omezením ChatGPT splnil náš požadavek a po útěku z vězení poskytl nepodložené předpovědi.
4. Instituce mohou mít potíže s regulací AI s otevřeným zdrojem
Regulační orgány se snaží držet krok s umělou inteligencí a šíření modelů s otevřeným zdrojovým kódem jen ztěžuje monitorování. Pokroky AI již předčí regulační rámce. Dokonce i světoví tech lídři jako Elon Musk, Bill Gates a Sam Altman volá po přísnější regulaci umělé inteligence.
Soukromý i vládní sektor musí tyto systémy kontrolovat. V opačném případě je budou jednotlivci se zlými úmysly i nadále využívat k porušování zákonů o ochraně osobních údajů krádež identitya oběti podvodů, mimo jiné nezákonné činnosti.
5. Nižší překážky vstupu omezují kvalitu
Šíření modelů jazyků s otevřeným zdrojovým kódem snižuje překážky vstupu do závodu AI. Na internetu najdete tisíce nástrojů založených na umělé inteligenci.
Vidět, jak společnosti přijímají strojové a hluboké učení, se může zdát působivé, ale jen málo z nich poskytuje skutečnou hodnotu. Většina pouze kopíruje své konkurenty. Postupem času může dostupnost sofistikovaných jazykových modelů a tréninkových datových sad změnit nesmyslné platformy umělé inteligence.
Celkový dopad jazykových modelů s otevřeným zdrojovým kódem na průmysl umělé inteligence
Přestože jazykové modely s otevřeným zdrojovým kódem zpřístupňují technologie AI, představují také několik bezpečnostních rizik. Vývojáři by měli nastavit přísnější omezení. V opačném případě budou podvodníci nadále využívat transparentní architekturu těchto systémů.
To znamená, že spotřebitelé nejsou zcela bezbranní proti podvodům s umělou inteligencí. Seznamte se s běžnými způsoby, jak podvodníci využívají generativní nástroje umělé inteligence, a studujte varovné signály útoků. S většinou kyberzločinů můžete bojovat tím, že budete ostražití.
