Vzhledem k tomu, že moderní jazykové modely umělé inteligence, jako je ChatGPT a Bing Chat od společnosti Microsoft, šíří po celém světě vlny, řada lidí se obává, že svět převezme umělá inteligence.
I když v dohledné době nenarazíme na SkyNet, AI je v několika věcech lepší než lidé. Zde přichází na řadu problém s ovládáním AI.
Vysvětlení problému ovládání AI
Problémem ovládání AI je myšlenka, že AI bude nakonec lepší v rozhodování než lidé. V souladu s touto teorií, pokud lidé nenastaví věci správně předem, nebudeme mít šanci věci opravit později, což znamená, že AI bude mít účinnou kontrolu.
Současný výzkum modelů umělé inteligence a strojového učení (ML) je přinejmenším roky před překonáním lidských schopností. Je však rozumné si myslet, že s ohledem na současný pokrok AI překoná lidi z hlediska inteligence i účinnosti.
To neznamená, že modely AI a ML nemají své limity. Jsou přece vázáni fyzikálními zákony a výpočetní náročností, stejně jako výpočetním výkonem zařízení, která tyto systémy podporují. Je však bezpečné předpokládat, že tyto limity jsou daleko za lidskými schopnostmi.
To znamená, že superinteligentní Systémy AI mohou představovat velkou hrozbu pokud nejsou správně navrženy s ochrannými prvky pro kontrolu jakéhokoli potenciálně nečestného chování. Takové systémy je třeba budovat od základů, aby respektovaly lidské hodnoty a udržely jejich moc na uzdě. To je to, co problém s ovládáním znamená, když říká, že věci musí být nastaveny správně.
Pokud by systém umělé inteligence překonal lidskou inteligenci bez patřičných ochranných opatření, výsledek by mohl být katastrofální. Takové systémy by mohly převzít kontrolu nad fyzickými zdroji, protože mnoho úkolů je dosahováno lépe nebo efektivněji. Protože systémy umělé inteligence jsou navrženy tak, aby dosahovaly maximální účinnosti, ztráta kontroly by mohla vést k vážným následkům.
Kdy se problém s ovládáním AI uplatní?
Hlavním problémem je, že čím lepší je systém umělé inteligence, tím těžší je pro lidského nadřízeného monitorovat technologii, aby bylo zajištěno, že v případě selhání systému lze snadno převzít ruční ovládání. Navíc lidská tendence spoléhat se na automatizovaný systém je vyšší, když systém většinu času spolehlivě funguje.
Skvělým příkladem toho je Sada Tesla Full-Self Driving (FSD).. I když auto může řídit samo, vyžaduje to, aby člověk měl ruce na volantu, připravený převzít kontrolu nad vozem v případě poruchy systému. Jak se však tyto systémy AI stanou spolehlivějšími, pozornost i těch nejpozoruhodnějších lidí se začne měnit a závislost na autonomním systému se zvýší.
Co se tedy stane, když auta začnou jezdit rychlostí, kterou lidé nemohou držet? Nakonec přenecháme řízení autonomním systémům vozu, což znamená, že systém AI bude ovládat váš život, alespoň dokud nedorazíte do cíle.
Lze problém s ovládáním AI vyřešit?
Existují dvě odpovědi na to, zda lze problém s ovládáním AI vyřešit nebo ne. Za prvé, pokud si otázku vyložíme doslovně, problém s ovládáním nelze vyřešit. Nemůžeme udělat nic, co by přímo cílilo na lidskou tendenci spoléhat se na automatizovaný systém, když většinu času funguje spolehlivě a efektivněji.
Pokud by se však tato tendence považovala za rys takových systémů, můžeme vymyslet způsoby, jak problém řízení obejít. Například, Algoritmické rozhodování a problém řízení výzkumný dokument navrhuje tři různé metody, jak se s nesnází vypořádat:
- Použití méně spolehlivých systémů vyžaduje, aby se člověk aktivně zapojil do systému, protože méně spolehlivé systémy nepředstavují problém s řízením.
- Chcete-li čekat, až systém překročí lidskou efektivitu a spolehlivost, před nasazením v reálném světě.
- Implementovat pouze částečnou automatizaci pomocí rozkladu úloh. To znamená, že automatizovány jsou pouze ty části systému, které nevyžadují lidskou obsluhu k provedení důležitého úkolu. Říká se tomu přístup dynamické/komplementární alokace funkcí (DCAF).
Přístup DCAF vždy staví člověka do čela automatizovaného systému a zajišťuje, že jeho vstup řídí nejdůležitější části rozhodovacího procesu systému. Pokud je systém dostatečně poutavý, aby lidský operátor neustále věnoval pozornost, lze problém ovládání vyřešit.
Dokážeme někdy skutečně ovládat AI?
S tím, jak se systémy umělé inteligence stanou vyspělejšími, schopnějšími a spolehlivějšími, budeme na ně i nadále ukládat další úkoly. Problém ovládání AI však lze vyřešit správnými opatřeními a ochrannými opatřeními.
Umělá inteligence nám již nyní mění svět, většinou k lepšímu. Dokud je technologie pod lidským dohledem, neměli bychom se ničeho obávat.
