Pokud jde o sociální média, všichni víme, že kromě mnoha výhod, které poskytuje při navazování kontaktů snazší, mohou také existovat určitá rizika a nebezpečí, která s sebou přináší online interakce, zejména pro mladé lidi. Naštěstí existují aplikace, které jsou proaktivní a snaží se omezit tyto škody, které mohou mladým lidem přijít, implementací správných technologií moderování.
Yubo, aplikace pro živé sociální vyhledávání, kterou nejvíce používá Gen Z, oznámila, že moderuje živé vysílání zvuku technologie expanduje na své největší trhy, konkrétně do Spojených států, Spojeného království, Austrálie a Kanada.
To přichází po několika měsících testování této funkce v některých oblastech Spojených států, když se společnost naučila, jak řešit problémy, které přináší analýza zvuku v reálném čase.
Význam moderování obsahu
Moderování obsahu online je obtížná práce. Viděli jsme to na Facebooku a Twitteru a Instagramu a tak dále. Mezi urážkami, nenávistnými komentáři nebo dokonce někdy násilím nebo sebepoškozováním je velmi důležité umírnění, aby byly tyto platformy bezpečné a jejich uživatelé chráněni. Na schopnosti schovat se za údajnou anonymitu nabízenou internetem je něco, co může v některých lidech vyvolat to nejhorší.
Yubo i nadále ukazuje, že dělá vše, co může, aby tomu zabránil, zejména proto, že jeho uživatelská základna je mnohem mladší. Podle Yubo tvoří 99 % jejich uživatelské základny generace Z ve věku 13–25 let. Zatímco online obtěžování není příjemné pro nikoho snášet, může být zvláště škodlivé pro dospívající.
Technologie pro moderování obrázků a videa existuje již nějakou dobu a byla implementována v různých fázích úspěchu. Moderování zvuku, nicméně zůstala velkou výzvou, zejména u živých přenosů. Nezáleží na tom, zda jde o živý přenos pořízený při chůzi po ulici nebo o stream, kde někdo hraje videohru.
Jak funguje moderování zvuku Yubo
Počínaje květnem 2022 společnost Yubo zahájila zkušební fázi své technologie pro moderování zvuku v různých oblastech po celých Spojených státech. Nyní další fáze zahrnuje většinu anglicky mluvících regionů, kde má Yubo velkou uživatelskou základnu, aby společnost mohla získat lepší přehled o jejich novém bezpečnostním nástroji.
I když je to stále nová, je to technologie, která by v budoucnu mohla být široce používána k detekci násilí nebo sebepoškozování.
Yubo to všechno nedělá sám o sobě, ale spíše ve spolupráci s Hive. Hive, pokud jste o nich ještě neslyšeli, je společnost, která vytváří a poskytuje rozhraní API pro moderování obsahu pro zpracování obrázků a videí téměř v reálném čase.
Technologie, kterou Yubo implementoval, funguje tak, že nahrává a přepisuje 10sekundové úryvky zvuku v živých přenosech 10 nebo více lidí. Text je okamžitě analyzován umělou inteligencí, aby zjistila jakákoli slova nebo fráze, které porušují pravidla aplikace Pokyny pro komunitu.
Počkejte, tady to nekončí. I když umělá inteligence může být skvělá při odhalování takových věcí, stále je to daleko od bodu, kdy dokáže rozlišovat mezi skutečným problematickým použitím a falešnými vlajkami.
Falešnými příznaky mohou být například skladby hrající na pozadí nebo hravý jazyk, který není úmyslný.
Zde tedy přicházejí do hry specialisté na bezpečnost Yubo, kteří jsou přizváni, aby prošetřili označené incidenty. Lidé jsou ti, kdo dokážou určit, zda situace vyžaduje eskalaci, nebo ne, pokud existují akce to by mělo být vzneseno proti lidem, kteří používají vulgární výrazy, nebo i když je třeba přivolat vymáhání práva v.
Pokud je živý přenos naprosto v pořádku, žádné přepisy se nekontrolují ani neudržují nad 24hodinovým limitem, takže vše zůstává soukromé; nebo tak soukromý, jako může být živý přenos s více než 10 lidmi.
Pokud však algoritmy detekují například násilné hrozby, projevy nenávisti nebo sebepoškozování, přepisy jsou uloženy po dobu až jednoho roku. Jedná se samozřejmě o bezpečnostní opatření pro společnost v případě, že orgány činné v trestním řízení vyžadují informace nebo společnost sama potřebuje podrobnosti pro další interní vyšetřování.
Provozní ředitel společnosti Yubo, Marc-Antoine Durand, vidí expanzi moderování zvuku technologie jako klíčový prvek ve vývoji online bezpečnosti v celém odvětví.
„V oblasti detekce hlasu je stále třeba dosáhnout velkého pokroku, ale jsme hrdí na to, že razí cestu našim kolegům jsme první, kdo spustil moderování zvuku s Hive, a díky této zkušební verzi pomáhá tento nástroj spolehlivější a efektivnější,“ Durand řekl.
Je zřejmé, že sociální platformy nechtějí bujnou šikanu, nenávistné projevy a komentáře podněcující k násilí, protože by to ostatní uživatele odstrčilo. Implementace takové technologie moderování je skvělým nástrojem k zajištění bezpečnosti uživatelů a také k zajištění dlouhodobého růstu a úspěchu společnosti Yubo.
