Microsoft distribuuje nástroj pro detekci hlubokých podvodů

Vzhledem k tomu, jak hluboké podvody jsou potenciálně zničující pro něčí pověst a je velmi obtížné je zjistit, když jsou provedeny správně, jsou hlavním problémem zabezpečení. Společnost Microsoft se nyní snaží pomoci zastavit hluboké padělání uvolněním nástroje, který je dokáže detekovat.

Hrozba, kterou představují padělání, je tak závažná, že způsobila Facebook zakáže veškerý hluboký obsah. Největší překážkou však je, jak hluboké padělky vypadají přesvědčivě; jako takové je nalezení a potvrzení hlubokého padělání velmi obtížné.

Facebook zakazuje Deepfakes a Photoshopy

Facebook zakazuje deepfakes a Photoshopped fotografie. Myšlenka byla odstranit manipulovaná média určená k oklamání uživatelů.

Jak bylo uvedeno na Microsoft o problémech, chce to společnost změnit svým novým nástrojem. Jmenuje se Microsoft Video Authenticator a analyzuje videa, aby hledal „švy“, které po sobě zanechaly při vytváření falešných zpráv. Tyto švy jsou pro lidské oči neviditelné, ale počítač je dokáže rozpoznat pomocí analýzy snímek po snímku.

Aby se zabránilo nebezpečným agentům v reverzním inženýrství technologie, Microsoft Video Authenticator nebude veřejnou verzí. Místo toho společnost Microsoft distribuuje svůj systém zpravodajským a politickým organizacím. Tímto způsobem mohou tyto organizace použít nástroj k oddělení skutečných od falešných.

Společnost Microsoft však oznámila druhou technologii k identifikaci padělání. Společnost navrhuje systém, kde tvůrce obsahu může označit svá videa jedinečným „podpisem“. Li video je upraveno, vygeneruje jiný podpis než originál, a tak identifikuje a deepfake.

Autorka hry Deep Fakes and the Infocalypse, Nina Schick, řekla následující:

Jediné skutečně rozšířené použití, které jsme zatím viděli, je nekonvenční pornografie na ženách. Očekává se však, že syntetická média se stanou všudypřítomnými přibližně za tři až pět let, takže tyto nástroje musíme vyvinout do budoucna. Jak se však zlepší možnosti detekce, zvýší se také schopnost generování - nikdy Bude to tak, že Microsoft může vydat jeden nástroj, který dokáže detekovat všechny druhy videa manipulace.

Deepfakes jsou významným problémem pro důvěryhodnost médií a společnosti k tomu potřebují cestu řekněte, co je skutečné, z toho, co je fikce. Společnost Microsoft vydala nástroj, který pomáhá upravovat upravovaná videa. Zda však bude tento nástroj dostatečný k tomu, aby držel krok s hlubokými vývojáři, se teprve uvidí.

Pokud si nejste jisti, co jsou to padělky a proč na nich záleží, rozhodně stojí za to věnovat jim čas, abyste se o nich dozvěděli. Deepfakes jsou připraveny stát se ekvivalentem obrázků „Photoshoppingu“ v tomto desetiletí a při zlomyslném použití mohou způsobit vážné škody.

Deepfakes Explained: AI, díky níž jsou falešná videa příliš přesvědčivá

Falešná videa generovaná umělou inteligencí zcela podkopávají naše chápání světových událostí. Tady je ukázka toho, jak hluboké podvody mohou všechno změnit.

O autorovi