Umělá inteligence a strojové učení dokážou zázraky, od tvorby umění až po automatizaci administrativních úloh. Ale jsou také rizikem, protože mohou zmocnit špatné herce triky, jako je deepfake.
Jak se tato konkrétní technologie vyvíjí, je dobré se naučit, jak deepfakes skutečně fungují a kdo by je vůbec chtěl používat – legitimně i nelegálně.
Proč je důležité porozumět tomu, jak a proč se Deepfakes používají
Mainstreamové aplikace deepfake technologie se točí hlavně kolem vtipných, pornografických nebo filmových materiálů, ale studie prokázala, že deepfakes mohou oklamat rozpoznávání obličeje. To samo o sobě je důvodem k obavám a dávejte si pozor.
Čím více se technologie používá v každodenním životě a velkých projektech, tím lépe se její vývojáři naučí vytvářet bezproblémová falešná videa lidí, ať už se jedná o celebrity nebo rodinné příslušníky.
Porozumění jak se chránit před deepfake videi je nyní nutností, vezmeme-li v úvahu, jak dychtivě průmysl přijímá výhody této technologie, zejména v oblasti zábavy.
Hollywood jej používal na několika projektech již dávno předtím Metafyzický hluboce falešný záznam AGT, která světu ukázala, jak rychlá a efektivní může být deepfake tvorba. Zde je to, co proces zahrnuje.
Jak Deepfakes fungují?
Pokud jde o to, co se skrývá za deepfakes, vodítko je v názvu: hluboké učení, věda o umělých neuronových sítích (ANN). To, co tyto algoritmy dělají, je absorbovat data, učit se z nich a vytvářet nová data ve formě výrazů obličeje nebo celé tváře překryté přes vaši.
Vývojáři deepfake softwaru obvykle používají jeden ze dvou typů ANN: autoencoder nebo generative adversarial networks (GAN).
Autokodéry se učí replikovat množství dat, která dostávají, zejména fotografie tváří a výrazů, a znovu vytvářet požadované datové sady. Jsou to však zřídka přesné kopie.
GANy mají na druhou stranu chytřejší systém, který zahrnuje generátor a diskriminátor. První z nich reprodukuje naučená data do deepfakes, které pak musí oklamat druhé.
Diskriminátor porovnává výtvory generátoru se skutečnými obrázky a určuje jejich účinnost. Nejlepší deepfakes jsou samozřejmě ty, které dokonale napodobují lidské chování.
Jak se tedy deepfakes touto technologií dělají? Algoritmy za aplikacemi jako Reface a DeepFaceLab neustále se učit z dat, která jimi procházejí, aby mohli efektivně upravovat rysy a výrazy obličeje nebo vrstvit jednu tvář přes druhou.
Software je v podstatě editor videa speciálně navržený pro manipulaci s tvářemi. Některé aplikace jsou složitější než jiné, ale celkově můžete dělat cokoli, od stárnutí někoho nahoru nebo dolů po úpravy sebe do filmů.
Technologie má ale stále nedostatky. Tvorba Deepfake může být složitější než jak se dělají falešná živá videa, ale může být stejně snadné zjistit jako nepravda.
Jak poznat Deepfake
Vzhledem k tomu, že deepfake jsou vytvářeny hlavně stroji, nevypadají rysy nebo způsoby digitální tváře vždy přirozeně. Chyby mohou být také v nastavení videa. Jinými slovy, můžete rozpoznat falešné záběry, pokud víte, co hledat.
Zde jsou některé prozrazující příznaky:
- Nepřirozené mrkání: Strojové učení často přehlíží mrkání očí nebo to vypadá trapně.
- Rozmazané nebo nestabilní rysy: Něčí vlasy, ústa nebo brada mohou být mírně rozmazané nebo se mohou pohybovat zvláštním, často přehnaným způsobem.
- Nedostatek nebo nesprávné vyjádření emocí: Chudáci deepfakes jsou neteční nebo špatně napodobují emoce.
- Nepříjemná řeč těla: Pokud osoba ve videu hýbe hlavou nebo tělem zkresleně nebo nesouvisle, může to být hluboká fake.
- Špatné barvy a osvětlení: Odbarvení, nevysvětlitelná světla a stíny jsou jistými známkami falešného videa.
- Nekonzistentní objekty: Při úpravách videa může deepfake software dělat chyby, jako je změna tvaru oblečení, šperků a předmětů na pozadí.
- Špatný zvuk: Deepfakes mohou zkreslit řeč a zvuky ve videu.
Využijte co nejvíce způsoby, jak odhalit deepfakes tím, že se naučíte, k čemu jsou taková videa obvykle vytvořena, a budete věnovat velkou pozornost detailům v záběrech, které vidíte online – pokud možno zpomalte.
Navíc se vyvíjí stále více nástrojů, např Microsoft Authenticator a Sensity's Forenzní deepfake detekce, které analyzují videa na minutové úrovni.
Kdo používá Deepfakes?
Filmaři stále častěji využívají deepfakes ke stárnutí nebo nahrazení tváří herců, jako ve Star Wars. Umělcům se daří animovat portréty a přimět je mluvit a zpívat.
Marketéři experimentují s technologií deepfake pro propagační obsah, který nevyžaduje najímání herců. Společnosti jako WPP to také aplikují na svá školicí videa.
Technici obecně vytvářejí vtipná videa, kde si vyměňují tváře s přáteli nebo vrství jednoho herce na druhého v populárních filmech. Sylvester Stallone převzal Sám doma a Joker Heatha Ledgera se objevil v A Knight's Tale.
Bohužel, pokud prozkoumáte, k čemu se ještě používá technologie deepfake, najdete spoustu škodlivých případů. Tvůrci Deepfake rádi šíří dezinformace a urážlivé zprávy, stejně jako cílí na celebrity a dávají je do filmů pro dospělé. Lidé jsou dokonce vydíráni falešnými záběry.
Ve své současné nespoutané podobě je deepfake synonymem rizika pro lidská práva na soukromí, bezpečnost, a dokonce i autorská práva, například když algoritmus jasně používá fotografii nebo umělecké dílo neveřejně dostupný.
To je důvod, proč země a značky ustupují. Od roku 2021, podle Mapa Cyber Civil Rights Initiative o deepfake zákonech v USA nyní čtyři státy zasahují proti zveřejněným deepfake videím, která zobrazují někoho explicitním nebo jinak škodlivým způsobem.
Čína také podniká kroky ke kriminalizaci deepfakes, které poškozují lidi a společnost, ať už porušováním práv jednotlivců nebo šířením falešných zpráv. Dokonce Meta oznámila v roce 2020 tato zavádějící, zmanipulovaná videa nebyla vítána.
Kromě regulace prosazují oficiální orgány po celém světě lepší odhalování a prevenci hluboce falešných zločinů. The Zpráva Rathenau Instituut o tom, jak by evropská politika měla zacházet s deepfakes, podporuje software s nástroji, jako je rozpoznávání reproduktorů a obličeje, detekce živosti hlasu a analýza rysů obličeje.
Zjistěte, jak vás Deepfakes mohou uvést v omyl
Deepfakes se již staly mainstreamem, v dobrém i zlém. Užijte si tedy zábavná a inspirativní videa a připravte se na boj s těmi škodlivými.
Na konci dne, co je to deepfake jako tento, ale nástroj navržený tak, aby vás oklamal? Pokud víte, co hledat a jak reagovat, má nad vámi menší moc.
Například budete moci na sociálních sítích odhalit deepfakes vedle falešných zpráv a účtů a vyhnout se dezinformacím, pokusům o phishing a dalším. Jak se technologie detekce a prevence deepfake zdokonaluje, do cesty vám přijde více podpory.
