6 velkých problémů s Deepfake Music

Nové písně slavných umělců se šíří na sociálních sítích, což obvykle není problém, kromě případů, kdy zpívá hlasový klon. Zatímco to bylo jedno z posledních médií, které vydrželo, deepfake hudba je nyní realitou.

Funguje to tak, že trénujete model AI na hlas zpěváka a výsledky nejsou vždy špatné. Při vytváření deepfake skladeb je spousta skutečné kreativity, ale problém není jen s výstupem. V mnoha případech povolení není uděleno a otázky, kdo dostane zaplaceno a zda je to etické, jsou jen některé z problémů deepfake hudby.

1. Neautorizované datové sady

Pokud chcete vytvořit hluboce falešnou stopu slavného umělce, musíte shromáždit zvukové soubory jeho zpěvu do datové sady. Stejně jako jakákoli data, která někomu patří, byste pravděpodobně měli získat jeho povolení k jejich použití, ale jedná se o deepfake píseň se může dostat na velkou hudební platformu, jako je YouTube, Spotify nebo TikTok, protože použila neautorizované datový soubor.

To se stalo umělcům Drake a The Weeknd, když uživatel jménem Ghostwriter vytvořil "Heart on My Sleeve". Úspěšná píseň obsahovala hlasy umělců syntetizované umělou inteligencí, doplněné texty o The Weekndově bývalé přítelkyni.

Píseň se fanouškům opravdu líbila, další chválu směřoval Ghostwriter za kreativní využití deepfake vokálů, ale Informoval o tom list The Seattle Times, ne každý to tak viděl. Mluvčí Universal Music Group, hlavního vydavatelství za oběma umělci, se ptá:

„Na které straně historie chtějí být zúčastněné strany v hudebním ekosystému: na straně umělců, fanoušků a lidské tvůrčí vyjádření, nebo na straně hlubokých padělků, podvodů a upírání umělců jejich náležité odškodnění?"

2. Zastaralý autorský zákon

Pokud jste umělec, který si nepřeje, aby byl váš hlas klonován, možná vám autorský zákon zatím nepomůže. Vzhledem k tomu, že naše zákony o autorských právech byly napsány v době, kdy tento typ technologie AI neexistoval, není překvapením, že se zákony stále snaží dohnat.

Nejbližší právní případ „krádeže hlasu“ v USA se datuje do 90. let minulého století. Tak jako informoval Los Angeles Times, zpěvák Tom Waits vyhrál odškodné 2,475 milionu dolarů od Frito-Lay Inc., mocného giganta s čipy za Doritos, Cheetos, Cracker Jack's a dalšími.

Reklama používala hlas někoho, kdo zněl dostatečně blízko Toma Waitse, že by lidé mohli věřit, že za reklamní kampaní stojí skutečný umělec. Totéž by se dalo říci o deepfake písních, které v současné době kolují, ale AI hudba musí být teprve testována v právní bitvě.

Zatímco čekáme na aktualizaci právního systému, stojí za zmínku, že ne každý má problém s tím, že lidé klonují svůj hlas. Holly Herndonová, například. Tváří v tvář nastupující vlně hudebních aplikací umělé inteligence se rozhodla povolit své vokální dvojče zvané Holly+ spolu se systémem, který jí poskytoval spravedlivou odměnu.

Ať se postavíte na kteroukoli stranu, problém zůstává stejný. Neexistuje žádný konkrétní zákon o autorských právech, který říká, že před použitím jeho hlasu musíte získat povolení od umělce. Do té doby se mohou umělci ocitnout na divokém západě technologie AI, bez jakýchkoli zákonů, které by je vedly.

3. Kdo dostane zaplaceno?

Je v pořádku vydělávat peníze na hudbě pomocí něčího hlasu? Je to ožehavá otázka, která se může stát větším problémem, protože na streamovacích platformách je publikováno více deepfake hudby a zpeněženo na platformách sociálních médií.

Jak všichni víme, je v pořádku zazpívat cover verzi slavné písně a umístit ji na YouTube nebo Spotify, a v takovém případě věci jako text, struktura písně, melodie, rytmus atd. jsou zkopírovány. Ale vokální klony jsou docela odlišné a deepfake hudba není přesně riffování na existující skladbu, ale vytvoření zcela nové skladby pomocí hlasu někoho jiného.

Jinak řečeno, hlasové klony by neexistovaly, kdyby nebylo nástrojů AI a neautorizovaných datových sad. Umělci tráví celý život zdokonalováním hlasu, se kterým se narodili, a vytvářením jedinečného zvuku. Ukrást něčí hlas a vydělat na něm peníze může být příliš daleko.

4. Žánr šedé oblasti

Aby to bylo zkomplikováno, někteří lidé nemusí považovat deepfake hudbu za úplně špatnou. Na rozdíl od hluboce falešných obrázků nebo videí, kterým se můžete krátce zasmát, než projedete v telefonu, hluboce falešná hudba směřuje k vlastnímu žánru.

Někteří lidé to přirovnávají k myšlence psaní fanfiction, zábavného a kreativního způsobu, jak vzdát hold umělci. Je to pozitivnější pohled, kvůli kterému je obtížné vyloučit deepfake hudbu jako prostě tabu. Stačí se podívat na přístup Holly Herndon ke klonování hlasu AI ve videu níže.

I když ne každý souhlasí s tím, že tento typ hudby by měl být povolen. Tak jako Píší Financial Times, hlavní nahrávací společnost Universal Music Group se snažila odstranit skladby nižší kvality ze streamovacích platforem, včetně těch, které vytvořila umělá inteligence. Streamovací platformy jako Spotify, Apple Music nebo Tidal se nakonec budou muset rozhodnout, zda je tento žánr hudby na jejich platformě povolen.

Deepfake hudba podněcuje podobné debaty, které se již dějí ve světě umění: mělo by být umění generované umělou inteligencí považováno za umění? Teprve teď zpochybňujeme hudbu AI.

5. Etické obavy týkající se rasy a identity

Éra deepfake hudby odstartovala spoustou hudby, která napodobuje rap. Vzhledem k tomu, že historické kořeny tohoto žánru sahají až k afroamerické mládeži vyrůstající v Bronxu v New Yorku na počátku 70. let, někteří lidé mají obavy z rasy a identity v hudbě AI.

Spisovatel Lauren Chanel, je člověk, který považuje deepfake hudbu za vážný problém. Jak je uvedeno v an článek New York Times, vysvětlují:

„Je to další způsob, jak si lidé, kteří nejsou černoši, obléci kostým černocha – zvednout ruce Kanye nebo Drakea a udělat z něj loutku – a to je pro mě alarmující." „Toto je jen další příklad z dlouhé řady lidí, kteří podceňují, co je zapotřebí k vytvoření typu umění, které, historicky, černoši udělat."

Není to poprvé, co hudba vytvořená pomocí nástrojů AI nedokázala být etická. Tak jako Informoval o tom časopis Rolling Stone, virtuální avatar rapper jménem FN Meka byl podepsán s labelem, pak rychle vypadl, když byl online civil právnická skupina Industry Blackout napsala, že projekt udržuje „hrubé stereotypy“ o Back kultura.

Deepfake hudba nám připomíná, že nástroje umělé inteligence nelze oddělit od historie tvorby hudby a ignorování toho přispívá k nebezpečí AI deepfakes.

6. Způsobování újmy umělcům

Jedna věc, která by neměla být přehlížena, je emocionální dopad, který by mohla mít deepfake píseň na umělce, zvláště když hlasový klon dokážou zpívat o situacích, které se nikdy nestaly, vyjadřovat emoce, které nejsou jejich vlastní, a předstírat, že jim na věcech nezáleží.

V případě falešné písně Drake ft. The Weeknd, texty obsahovaly řádky o Seleně Gomez, která s The Weekndem chodila. Při použití směsi reálných faktů a vymyšlených textů šlo o podivné zkreslení reality, které mohlo být škodlivé pro umělce, který prožil skutečný zážitek.

Podobně, vytváření textů generovaných umělou inteligencí „ve stylu“ někoho slavného pomocí textových generátorů AI přivedlo některé umělce k zoufalství nad používáním technologie AI. Jak říká Nick Cave, "To, co je ChatGPT, je v tomto případě replikace jako travestie."

Deepfake hudba dokáže umělci vložit do úst slova, která nikdy neřekl, nebo v tomto případě nezazpíval. Na osobní úrovni to může poškodit umělce, který má jen malou kontrolu nad odstraněním obsahu, aniž by šel bitvu k soudu.

Připravte se na změny v hudebním průmyslu

Díky rostoucímu přístupu k nástrojům umělé inteligence vstoupila hudba do světa deepfakes, zejména prostřednictvím hlasových klonů. Rozpoznat rozdíl mezi hlasem umělé inteligence a lidským hlasem pouhým poslechem je extrémně obtížné, takže se hluboce falešná skladba snadno dostane na streamovací platformy, než bude odstraněna.

Na jedné straně by se fanoušci mohli těšit z deepfake hudby a mohl by se objevit platný žánr, který využívá slavné hlasy k vytváření nové a zajímavé hudby. Ne každý umělec však souhlasí s klonováním svého hlasu a neexistují žádné zákony, které by lidem bránily ve vytváření neautorizovaných datových sad.

Získání souhlasu, odměňování umělců a zkoumání etických problémů je jen několik problémů, kterým čelí umělci a hudební průmysl. S rychlým rozvojem technologie AI stojí za to udělat si pauzu a zamyslet se nad problémy, které vytvořily.