Může Deepfake oklamat rozpoznávání obličeje? Nová studie říká, že ano!

Deepfakes a videa generovaná AI tu zůstanou. Ale v posledních několika letech rostly v kvalitě a kvantitě, což spoustu lidí znepokojovalo národní bezpečností a osobním soukromím.

Přesto, bez ohledu na to, jak tvrdě se anonymní online uživatelé snažili, aby jejich falešné video bylo realistické, nikdy se nemohli dostat přes pokročilý software pro rozpoznávání obličeje. Do teď.

Fooling Face Recognition API

Vědci z univerzity Sungkyunkwan v Suwonu v Jižní Koreji, testoval kvalitu současné technologie deepfake. Testovali API i Amazon a Microsoft pomocí open-source a běžně používaného softwaru pro generování deepfake videa, aby zjistili, jak dobře fungují.

Vědci použili tváře hollywoodských celebrit. Aby bylo možné vytvářet solidní deepfake, software potřebuje spoustu vysoce kvalitních obrázků z různých úhly stejných osob, které je mnohem snazší získat od celebrit místo obyčejných lidé.

Vědci se také rozhodli použít API Microsoftu a Amazonu jako měřítko pro svou studii, protože obě společnosti nabízejí služby rozpoznávání tváří celebrit. Použili veřejně dostupné datové sady a vytvořili něco přes 8 000 deepfake. Z každého hluboce zfalšovaného videa extrahovali několik obličejů a odeslali je do rozhraní API.

Díky Microsoft Azure Cognitive Services dokázali vědci oklamat systém 78 procent času pomocí deepfakes. Výsledky Amazonu byly o něco lepší, přičemž 68 procent zaslaných tváří bylo identifikováno jako skutečné.

A co detektory Deepfake?

Detektory Deepfake fungují víceméně stejně jako Deepfake. Detektory jsou software, který byl vyškolen pomocí modelů strojového učení, jak detekovat hluboce padělaná videa.

Ale místo toho, aby se deepfakes soustředili na vytvoření hyperrealistického videa k oklamání detektorů, nyní mohou do každého rámce zahrnout kontradiktorní příklady, které mají systém AI zmást. Ve skutečnosti mají deepfake útoky tohoto typu úspěšnost v rozmezí od 78 do 99 procent.

Zhoršuje se to

Deepfakes jsou aplikace pro strojové učení. Chcete -li vytvořit ten, který je dokonce vzdáleně přesvědčivý, potřebujete stovky obrazů tváře stejné osoby z různých úhlů a zobrazujících různé emoce.

Kvůli potřebě velkého množství dat by si někdo myslel, že jsou ohroženi pouze lidé s velkou online přítomností, jako celebrity a politici. Ale to už neplatí.

Podle Deeptrace se počet deepfakeů online za méně než rok zvýšil o 330 procent - od října 2019 do června 2020. Nemluvě o tom, že software a algoritmy, které tvůrci deepfake používají, jsou stále silnější a dostupnější a dostupnější.

Kdo je ohrožen Deepfakes?

Když se deepfakes poprvé stal hlavním proudem, primárním starosti byly o soukromí a národní bezpečnost. Lidé se obávali, že videozáznamům politiků a oficiálních vládních pracovníků už nelze věřit.

I když by bylo nezodpovědné ignorovat pózu představující bezpečnostní riziko, několik průzkumů zjistilo, že tvůrci deepfake zatím nemají zájem narušovat politiku. Většinu online videí deepfakes lze rozdělit do dvou kategorií: zábavná videa s rozhovory s celebritami a filmy a pornografický materiál.

Zatímco nedávná studie byla provedena pomocí tváří známých osobností, aby se zajistilo, že deepfakes budou mít vysokou kvalitu, aby oklamali API, neznamená to, že nemůžete dělat deepfake s menším množstvím dat. Jistě, možná nemají šanci oklamat pokročilé systémy rozpoznávání obličeje, ale mohou být dostatečně přesvědčiví na to, aby oklamali ostatní lidi.

V dnešní době lze deepfake kohokoli se sociální přítomností vytvořit přesvědčivě. Stačí jim pár vašich fotek a možná i video, ve kterém se objevíte. Výsledný deepfake může mít nízkou kvalitu, ale stále je proveditelný a může být škodlivý.

Budoucnost je stále neznámá

Existuje mnoho protichůdných předpovědí ohledně stavu deepfake, protože v dohledné době nezmizí.

Někteří očekávají apokalyptickou kybernetickou budoucnost, kde nemůžete věřit žádným záběrům, se kterými se setkáte online. Jiní jsou optimističtější, srovnávají deepfakes s animací a tvrdí, že to může mít budoucnost v produkci obsahu.

Jak se chránit před hluboce falešnými videi

Deepfakes jsou stále více rozšířené. Zde je návod, jak mohou ohrozit vaše soukromí online a jak se vyhnout tomu, aby vás někdo přijal.

Číst dále

O autorovi