Pokud jste v poslední době byli na TikToku, možná jste viděli několik videí s Tomem Cruisem - nebo to, co vypadá jako Tom Cruise -, které se zdánlivě virálně šíří.
Tato videa jsou ve skutečnosti pečlivě vytvořenými deepfakes vytvořenými umělcem vizuálních efektů Chris Umemysl za @deeptomcruise Účet TikTok. Ume promluvil o těchto přesvědčivých zosobněních a sdílí, kolik práce do jeho vytvoření skutečně spadá.
Deepfakes není tak snadné vytvořit, jak si možná myslíte
Při procházení videa @ deeptomcruise je těžké říci, že to opravdu není Tom Cruise, který hraje golf, jí cukrovinky nebo kouzelnický trik. Pokud by „deep“ nebyl v jeho uživatelském jménu, nepochybně by byla celá uživatelská základna TikToku přesvědčena o oficiální přítomnosti Toma Cruise na platformě.
Mluvil Ume, tvůrce tohoto dvojníka Toma Cruise The Verge o tom, kolik práce bylo skutečně věnováno vytvoření tohoto digitálního klonu. Uvedl, že průměrný člověk nemůže vytvořit hluboký padělek „pouhým stisknutím tlačítka“.
Nejprve se spojil s imitátorem Toma Cruise, Milesem Fisherem, což pomohlo prohloubit falešný obraz o to přesnější.
Příbuzný: Deepfakes Explained: AI, díky níž jsou falešná videa příliš přesvědčivá
Ume trvalo celé dva měsíce trénovat model AI na videích obsahujících Toma Cruise. A dokonce i poté, co Ume natočil klipy, které potřeboval, trvalo několik dalších dní, než každé video projel hřebenem s jemnými zuby, aby zachytil jakékoli závady. To je pro běžného internetového trolla zjevně příliš mnoho práce.
Společnost Ume použila algoritmus open-source DeepFaceLab spolu s dalším softwarem pro úpravu videa. „Kombinací tradičních CGI a VFX s hlubokými padělání je to lepší. Ujistím se, že nevidíte žádnou závadu, “řekl Ume.
Pravděpodobně už neuvidíme příspěvky od @deeptomcruise, jak uvedl Ume: „Bavili jsme se. Vytvořil jsem povědomí. Ukázal jsem své schopnosti. Rozesmáli jsme lidi. A je to, projekt je hotový. “
Skutečný Tom Cruise si od té doby vytvořil svůj vlastní účet TikTok - možná mu padly do oka Umeho padělky!
Zpráva Ume je uklidňující
Jak znepokojivé mohou být tyto hluboké falešné Tom Cruise, zpráva Ume ujišťuje uživatele, že tak nedotčený hluboký padělek nemůže vytvořit kdokoli (alespoň ne, dokud se technologie nezlepší).
Když amatéři vytvářejí hluboké podvody, je obvykle snadné je odhalit. Ale protože se technologie neustále vyvíjí, může jednoho dne existovat cenově dostupný nástroj, který umožní průměrnému uživateli vytvořit hluboký padělek, který bude stejně přesvědčivý jako ten, který vytvořil Ume. Deepfakes mohou představovat obrovská bezpečnostní rizika a dát tuto moc do rukou podvodníka je strašidelná myšlenka.
Deepfakes zpochybňují to, jak důvěřujeme informacím, které vidíme online nebo v televizi. Jak si tedy můžete všimnout hlubokého předstírání?
- Bezpečnostní
- Tech News
- Deepfakes
- Tik tak
Emma je hlavní autorka a redaktorka pro sekce Internet a Kreativní. Absolvovala bakalářský titul v angličtině a spojuje svou lásku k technologii s psaním.
Přihlaste se k odběru našeho zpravodaje
Připojte se k našemu zpravodaji s technickými tipy, recenzemi, bezplatnými elektronickými knihami a exkluzivními nabídkami!
Ještě jeden krok…!
V e-mailu, který jsme vám právě poslali, potvrďte svou e-mailovou adresu.