Vzhledem k tomu, že stále více jednotlivců a organizací vítá nové technologie s otevřenou náručí, je nemožné ignorovat umělou inteligenci (AI) a rozhodování založené na AI. Důležitá rozhodnutí, která kdysi dělali lidé, lze nyní svěřit rozhodovacím znalostem AI.

Necháme se překvapit, jak umělá inteligence ovlivňuje rozhodování a zda můžeme důvěřovat výsledkům. Jak se vyvíjí sektor kybernetické bezpečnosti, mění se i kybernetické hrozby. Vzhledem k lidské chybě jako jedné z hlavních hrozeb kybernetické bezpečnosti je však rozhodování AI méně důvěryhodné než lidem?

Co je rozhodování AI?

Rozhodování pomocí umělé inteligence lze popsat jako schopnost systémů poháněných umělou inteligencí provádět úkoly zpracování dat a rozhodovat se bez (nebo s malou) pomocí lidí.

Tím, že vynechá lidský faktor, může umělá inteligence kvantifikovat kvalitativní data, dělat přesnější předpovědi a přijímat správná rozhodnutí. Dokáže se vypořádat se složitými úkoly, jako je analýza dat, drcení dat, detekce anomálií a další. Jakmile je úkol dokončen, konečné rozhodnutí je buď plně automatizované, nebo je učiněno lidmi – pokud závisí na systému.

instagram viewer

Přebíráním únavných každodenních úkolů nám AI uvolňuje čas na kreativnější aktivity zaměřené na podnikání. Není však třeba se obávat, že AI v brzké době nahradí lidi v obchodním procesu.

Tento rozhodovací proces AI lze rozdělit do tří hlavních kategorií:

  • Podpora při rozhodování: V tomto systému se spojuje lidská inteligence a postřehy založené na AI, aby se dospělo ke správnějším rozhodnutím.
  • Rozšíření rozhodnutí: Stejně jako u předchozího systému ani zde AI nemá za cíl nahrazovat lidi, ale podporovat je při rozhodování s více alternativami. K dosažení těchto rozhodnutí využívá prediktivní analytiku (k nalezení potenciálních výsledků) nebo preskriptivní analytiku (k nalezení více možností s konkrétním výsledkem).
  • Automatizace rozhodování: Na rozdíl od předchozích dvou má tento systém za úkol nahradit lidi automatizací jejich každodenních rozhodovacích povinností.

Vzhledem k tomu, že v dnešním světě je těžké se AI vyhnout, je to chytré podívejte se na nebezpečí AI než se s nimi budeme muset vypořádat.

Jakou roli hraje rozhodování AI v kybernetické bezpečnosti?

Protože systémy s umělou inteligencí mají schopnost přijímat rozhodnutí a provádět úkoly nezávisle na lidech, mohou analyzovat větší objemy dat souvisejících s riziky rychlostí, které se žádná lidská bytost nevyrovná. Bezpečnostní systémy poháněné umělou inteligencí mohou také využívat strojové učení (ML) k upgradu své obrany a kompetentnějšímu boji proti probíhajícím kybernetickým útokům.

Mohou například shromažďovat data v reálném čase o aktivních kybernetických hrozbách, jako jsou nejnovější e-maily podvody a zabránit nic netušícím obětem klikat na škodlivé odkazy nebo stahovat malwarem zamořené dokumenty. Koneckonců, kybernetické zločiny, jako jsou phishingové podvody a útoky DoS (denial-of-service) jsou znepokojivě běžné a bezpečnostní systém, který může fungovat jako hodinky bez spánku nebo si musí vzít volno, aby upgradoval taktiku kybernetické kriminality, je výkonný spojenec.

Všechny tři druhy rozhodovacích procesů AI (podpora, rozšiřování a automatizace) lze využít k posílení kybernetické bezpečnosti.

Výhody používání AI v kybernetické bezpečnosti

Protože se všichni shodneme na tom, že využití rozhodování AI v kybernetické bezpečnosti je něco, s čím se v budoucnu ještě setkáme, pojďme se podívat, jaké jsou jeho hlavní výhody.

  • AI může pracovat ve dne i v noci: Na rozdíl od lidských pracovníků kybernetické bezpečnosti, kteří potřebují občas zavřít oči, může umělá inteligence analyzovat data a hledat kybernetické hrozby a zranitelnosti nepřetržitě.
  • Mohlo by to vymýtit lidskou chybu: Od té doby lidé jsou nejslabším článkem v řetězci kybernetické bezpečnosti, je bezpečnější nechat AI, aby se postarala o všechny úkoly, ve kterých jsme hrozní (jako je upřednostňování úkolů a plnění hlavních povinností).
  • ML mění hru pro detekci hrozeb: Na rozdíl od lidských odborníků na kybernetickou bezpečnost, kteří musí projít školením, aby identifikovali a porozuměli novým kybernetickým hrozbám, systém AI dokáže nové hrozby zachytit automaticky.
  • Díky tomu je biometrické ověřování chytřejší: Ať už mluvíme o rozpoznávání konečků prstů, duhovky nebo hlasu, díky umělé inteligenci je biometrické přihlašování plynulejší a bezpečnější.
  • Mohlo by to snížit náklady na kybernetické útoky: V případě úspěšného kybernetického útoku by bezpečnostní systém poháněný umělou inteligencí mohl zmírnit škody a minimalizovat finanční ztráty.

Nevýhody používání AI v kybernetické bezpečnosti

Nemyslíme si, že AI se náhle stane vědomou, začne pociťovat vážné opovržení vůči lidstvu a udělá vše pro to, aby je zničila – daleko od toho (prozatím). Ani v kybernetické bezpečnosti však s AI není jen slunce a duha. A co víc, je jich víc než pár důvody, proč byste neměli slepě věřit AI.

  • Zkreslení v AI a ML: U AI existují dva typy zkreslení, algoritmická AI (lépe známá jako zkreslení dat) a společenská zkreslení AI, a oba mohou způsobit, že bezpečnostní systémy založené na AI jsou rovněž neobjektivní.
  • Nedostatek transparentnosti v AI: Vzhledem k tomu, že umělá inteligence funguje jako černá skříňka, nemůžeme shromažďovat informace, které potřebujeme, abychom pochopili, jak se systém umělé inteligence skutečně rozhoduje.
  • Problémy s integrací se stávajícími bezpečnostními systémy: Ne všechny bezpečnostní systémy založené na umělé inteligenci lze hladce integrovat se stávajícími, což by mohlo narušit bezpečnostní architekturu organizace.
  • Sklon k falešným pozitivům: Vzhledem k tomu, že nerozumíme rozhodování AI a spoléhání AI na data, algoritmy ML mohou Chyby detekce anomálií (jako je odstranění dat, která nepředstavují hrozbu), které vystavují systémy riziku skutečného kybernetického systému hrozby.

Můžeme důvěřovat umělé inteligenci v kybernetické bezpečnosti?

Jak obě technologie postupují, AI a kybernetická bezpečnost se stále více prolínají. Znamená to však, že bychom měli nechat své starosti za sebou a vložit svou důvěru do rozhodování AI?

Stejně jako u každé jiné technologie má rozhodovací potenciál AI své výhody a nevýhody. Dokáže chránit naše systémy ve dne i v noci, eliminovat lidské chyby a zároveň se učit z nových kybernetických útoků. Může však být napaden jako jakákoli jiná součást bezpečnostního systému a tyto útoky by mohly ovlivnit jeho „mysl“ způsobem, kterému ještě nerozumíme.

Proto je důležité, abychom rozuměli rizikům a přínosům využívání AI v kybernetické bezpečnosti, než ji budeme moci považovat za jednoho z našich nejbližších spojenců.