Zdá se, že až příliš často vidíme zprávy o tom, že na jedné nebo druhé stránce sociálních médií byl spáchán nějaký závažný trestný čin, včetně nezákonných příspěvků nebo živého vysílání násilného obsahu. Může být snadné se divit, jak v této technologicky pokročilé době mohou takové věci proklouznout trhlinami.
Faktem však je, že efektivně moderovat stránky sociálních médií je prakticky nemožné. Proč? Důvodů je několik.
Některé weby sociálních médií jsou stále teprve začínající nebo jsou více specializované. Hlavní stránky sociálních médií však mají rozsáhlou uživatelskou základnu. Největší weby mají stovky milionů až miliardy uživatelů. Každá tak velká platforma je přirozeně těžko sledovatelná.
Většina velkých sociálních sítí to zvládá pomocí kombinace hlášení komunity, algoritmů (nedokonale) vycvičených k rozpoznání škodlivého obsahu a několika lidských moderátorů. Zatímco člen komunity nebo umělá inteligence může zaznamenat a nahlásit škodlivé informace, je to člověk (nebo skupina lidí), kdo má poslední slovo. A mnoho webů nabízí proces odvolání.
Stránky sociálních médií nejsou obrovské jen z hlediska jejich uživatelské základny. Různé státy a různé země mají různé zákony týkající se toho, jaký druh obsahu je třeba hlásit a jak.
Společnosti sociálních médií působící v různých geografických oblastech tedy často musí mít různé zásady pro různé uživatele. To zahrnuje různé zásady pro dezinformace a soukromí. Ve skutečnosti, Twitter musel souhlasit s konkrétními podmínkami, aby byl v Nigérii zakázán.
Ještě více než to, sociální média jsou globálním fenoménem, ale ne vždy se to děje v „globálních“ jazycích. To může způsobit, že společnosti sociálních médií budou muset hledat moderátory obsahu, kteří mluví regionálními jazyky, aby mohli poskytovat služby globálně, aniž by byli tito uživatelé zranitelní vůči špatným aktérům.
Dobrým příkladem je majitel Facebooku Meta. Společnost byla nedávno zažalován bývalým moderátorem obsahu v Nairobi který tvrdí, že moderátoři obsahu v této oblasti jsou uvedeni v omyl, aby převzali roli.
3. Moderátoři chodí po laně
Většina uživatelů sociálních sítí chce dvě věci: chtějí se cítit bezpečně a chtějí se cítit svobodně. Nalézt rovnováhu mezi těmito dvěma touhami je obtížným úkolem moderátora obsahu.
Zatoulajte příliš daleko na jednu stranu a uživatelé se budou cítit hlídáni. Zatoulajte příliš daleko na druhou stranu a uživatelé se budou cítit opuštěni. Jedním ze způsobů, jak to některé weby sociálních médií obejít, je prostřednictvím komunitních moderátorů.
Moderátoři komunity pomáhají vyjádřit, že moderování je něco, co se dělá z vášně pro propagaci konstruktivní diskurs bez připuštění škodlivého obsahu spíše než z jakékoli touhy ovládat nebo utlačovat uživatelů. Tento model je náročný v měřítku, i když různé platformy umožňují jeho fungování různými způsoby.
Parléř se vrátil online po úpravě svých zásad moderování tak, aby vyhovovaly zásadám třetích stran. Mají něco jako systém komunitní poroty, který víceméně vstupuje do hry až poté, co již byl nahlášen potenciálně problematický příspěvek. Upřednostňování uživatelských zpráv je další způsob, jak Parléř pomáhá ulehčit svým moderátorům.
4. Moderátoři musí mít dynamickou linii
Moderátoři obsahu také působí v něčem, co se může zdát jako morální šedá zóna. Dokonce i platformy s více svobodným názorem na moderování mají pravidla proti potenciálně škodlivému nebo násilnému obsahu. Některé příspěvky jsou zjevně škodlivé nebo násilné, zatímco jiné se mohou některým uživatelům (nebo moderátorům) zdát škodlivé nebo nebezpečné, ale jiným ne.
Mnoho platforem má také pravidla proti jiným činnostem, jako je prodej produktů nebo služeb. Tato oblast může být pro navigaci ještě složitější, zejména vzhledem k velikosti a rozsahu některých webů.
Zvážit co dělají moderátoři komunity Reddit. Kdykoli se uživatelé připojí k nové komunitě, jsou mu okamžitě zaslána pravidla pro danou komunitu. Tato pravidla jsou také zveřejněna na boční straně každé stránky komunity. To umožňuje každé komunitě mít podmnožinu pravidel přizpůsobených jí spíše než paušální pravidla pro celý web.
Myšlenka subredditů také pomáhá Redditu využívat moderátory komunity ve velkém. Moderátoři mají za úkol spíše moderovat svůj subreddit než se snažit hlídkovat celý web.
Konečně, sociální média se pohybují opravdu rychle. Když uslyšíte o problematickém příspěvku, může to být i poté, co jej původní plakát stáhl. V případě, že příspěvek nebyl nahlášen, když byl aktivní, reagovat na něj poté může být složité.
V jednom případě v roce 2015 byl příspěvek na sociální síti YikYak nahlášen policii pomocí pozměněné verze původního příspěvku, který již byl odstraněn. To, co mohli interně vyřešit moderátoři online obsahu, se stalo prodlouženým právním dramatem, které rozrušilo celou komunitu.
Mnoho sociálních sítí, včetně Facebooku, má zásady pro uchovávání podezřelých příspěvků v případě, že je třeba na ně odkazovat ve vyvíjejících se situacích, včetně orgánů činných v trestním řízení.
Funkce, jako je živé vysílání, však znamenají, že obsah stoupá, jak se to děje, což algoritmy mohou minout, dokud není příliš pozdě.
Hoďte mincí svému moderátorovi
Pokud na internetu uvidíte něco, co vás znepokojuje, nahlaste to prostřednictvím uvedených kanálů. Snažte se vyhnout rozčilení nebo podezřívavosti, protože moderování sociálních sítí je těžké. Totéž platí, pokud jste nahlášeni vy nebo příspěvek. Je to pravděpodobně dobře míněný krok, jak udržet uživatele sociálních sítí v bezpečí.
