Hluboce falešné obrázky Trumpova zatčení přiměly lidi, aby věřili, že se to skutečně stalo.
Pokud jste aktivní na Twitteru, možná jste viděli několik šokujících snímků bývalého amerického prezidenta Donalda Trumpa, jak je zatčen policisty, jak s nimi zápasí, a dokonce před nimi utíká. Ukázalo se, že nic z toho nebylo skutečné. Ale jak se to všechno stalo?
Zatčení Donalda Trumpa, které se nikdy nestalo
Bývalý americký prezident sdílel údajný únik informací prostřednictvím svého úředníka Pravda Sociální rukojeť dne 18. března. Příspěvek uvedl, že očekává zatčení v úterý následujícího týdne za "stará a plně odhalená" obvinění proti němu. Netrvalo dlouho a obrázky Trumpova zatčení se začaly objevovat po celém internetu.
Snímky ukázaly, co vypadalo jako záběry z Trumpova zatčení skupinou strážců zákona.
Obrázky byly generovány AI
Obrázky však nebyly autentické. Byly to deepfakes vyrobené s Midjourney, generátor obrázků AI. Midjourney používá algoritmus hlubokého učení ke generování obrázků od začátku pomocí textových výzev. V tomto případě byly textové výzvy variacemi Trumpova zatčení.
Technologie Deepfake existuje již nějakou dobu a je stále sofistikovanější. Obrázky generované umělou inteligencí byly dříve snadno identifikovatelné: postrádaly detaily a realismus. Nicméně, Nejnovější vydání Midjourney (v5) Opravil většinu těchto problémů a ve skutečnosti se jednalo o verzi použitou ke generování Trumpových zatčení deepfakes.
Jak se obrazy staly virálními
Eliot Higgins, investigativní novinář, vytvořil první verze zatčení Trumpa deepfakes, aby si představil, jak by zatčení Trumpa vypadalo. Zveřejnil je na svém twitterovém účtu. Zatímco z jeho popisku bylo od začátku jasné, že obrázky jsou falešné, netrvalo dlouho a příspěvek se stal virálním.
Jak se obrázky šířily po sociálních sítích, mnoho lidí věřilo, že jsou skutečné. Trumpův příspěvek na Truth Social už měl lidi podezřelé a realistické obrázky jen přiživily oheň. Chvíli trvalo, než se ukázalo, že fotografie byly falešné a že příběh o zatčení byl podvod.
Příspěvky na sociálních sítích, které „nahlašují“ falešné zatčení, byly smazány nebo mají nálepku dezinformace. Za trest Midjourney také zakázal Higginsovi přístup na jejich server na měsíc, per Washington Post.
Éra Deepfakes vyžaduje ostražitost
Trumpova zatčení deepfakes zdůrazňují alarmující pokroky v technologii AI. Falešné obrázky lze nyní vytvářet s neuvěřitelnou lehkostí a vypadají tak realisticky, že je těžké rozeznat, co je skutečné od toho, co není. Ostražitost je nyní důležitější než kdy jindy, pokud jde o online obsah.