Microsoft se stal otevřeným zdrojem Counterfit AI Security Assessment Tool

Společnost Microsoft vyvinula svůj nástroj pro hodnocení bezpečnostních rizik AI, Counterfit, open-source, který umožňuje komukoli začít tento nástroj používat zdarma. V současné době mohou organizace využívat Counterfit k automatizaci hodnocení bezpečnostních rizik a zajišťovat tak ochranu, kterou používají, až do nuly.

Společnost Microsoft původně vyvinula Counterfit jako interní nástroj, který dokáže rychle posoudit bezpečnost systémů AI a strojového učení. Začalo to život jako sbírka skriptů, než se rychle proměnilo v obecnou automatizaci AI, kterou může operátor použít k „útoku na více systémů AI“ najednou.

Společnost Microsoft nyní pravidelně používá Counterfit jako základní nástroj při operacích týmu AI Red. Vzhledem k tomu, že Counterfit je prostředí, model a data agnostická, může tento nástroj poskytovat přesné hodnocení bez impedance.

Samotný nástroj je určen pro použití bezpečnostními profesionály. Counterfit používá podobné pracovní postupy jako jiné oblíbené nástroje červeného týmu, jako je Metasploit nebo PowerShell Empyre, s rozsáhlou podporou pro skriptování, předem načtené algoritmy útoku, skenování zranitelností, pokročilé protokolování a další, přístupné z příkazového řádku.

Microsoft také intenzivně spolupracoval s bezpečnostními profesionály a velkými organizacemi na vývoji Counterfitu. Na Blog Microsoft SecurityMatilda Rhode, hlavní výzkumná pracovnice v oblasti kybernetické bezpečnosti, Airbus, uvedla:

AI se stále více používá v průmyslu; je důležité se dívat dopředu na zabezpečení této technologie, zejména proto, abychom pochopili, kde lze v problémovém prostoru provádět útoky na vesmírné objekty. Vydání nástrojů s otevřeným zdrojovým kódem od organizace, jako je Microsoft, pro bezpečnostní odborníky k vyhodnocení bezpečnost systémů umělé inteligence je vítána a je jasným znamením, že průmysl tento problém řeší vážně.

Najdete open-source Microsoft Counterfit na jejich oficiálním GitHubu.

Příbuzný: Úlohy, které jste nikdy nevěděli, prováděla AI

Proč je Counterfit užitečný?

Dokonce i pro společnost o velikosti Microsoftu není dokončení efektivního hodnocení zabezpečení snadné, zvláště když jsou tyto společnosti obrovskými vůdci Fortune 500, vládami, neziskovými organizacemi a dalšími. Předchozí studie společnosti Microsoft zjistila, že velký počet podniků není schopen přesně otestovat své systémy AI.

Zjistili jsme, že 25 z 28 podniků uvedlo, že nemají k dispozici správné nástroje pro zabezpečení svých systémů AI a že bezpečnostní profesionálové hledají v tomto prostoru konkrétní pokyny.

Counterfit usnadňuje dokončení těchto hodnocení, automatizuje proces analýzy a testování.

Příbuzný: Způsoby, jak můžete pomocí technologie AI vylepšit své podnikání

Dále nedávno zveřejněné Gartnerova studie přijetí AI je uvedeno jako jedno z nejdůležitějších bezpečnostních opatření, která společnost může přijmout ke zlepšení ochrany. Stejná studie poznamenala, že „do roku 2024 se organizace, které implementují vyhrazené kontroly řízení rizik umělé inteligence, úspěšně vyhnou negativním výsledkům umělé inteligence dvakrát častěji než ty, které tak nečiní.“

Stručně řečeno, Counterfit, který se stal nástrojem pro hodnocení zabezpečení AI s otevřeným zdrojem, by měl pomoci učinit svět o něco bezpečnějším místem.

Tyto 4 antivirové nástroje používají AI k ochraně vašeho systému

Musí vaše příští předplatné antiviru obsahovat umělou inteligenci, nebo je to jen další bezpečnostní slovo?

Přečtěte si další

O autorovi