Uživatelé Twitteru objevují potenciální rasové zkreslení v algoritmu automatického oříznutí

Twitter se snaží zjistit, proč jeho funkce náhledu fotografií vykazuje známky rasové zaujatosti. Několik uživatelů zjistilo, že u černých tváří je větší pravděpodobnost oříznutí náhledů fotografií ve srovnání s bílými tvářemi.

Chyba v algoritmu Twitteru

Když vidíte obrázek na Twitteru, je to jen náhled, musíte na něj kliknout, abyste viděli celý obrázek. Twitter používá k oříznutí fotografií algoritmus, který určuje, co uvidíte v náhledech obrázků.

V roce 2018 Twitter oznámil svou funkci inteligentního automatického oříznutí v příspěvku na webu Blog na Twitteru. Tato funkce využívá „výběžek“ k vyladění nejvýznamnějších částí fotografií a podle toho následně ořízne náhledy fotografií.

Uživatelé Twitteru zjistili, že neuronová síť platformy může mít rasové zkreslení. Jeden uživatel zveřejnil obrázek amerického senátora Mitche McConnella po boku bývalého prezidenta Baracka Obamy.

Náhled obrázku očividně ořezává Obamovu tvář, i když je jeho tvář umístěna v horní části fotografie. Když se tentýž uživatel pokusil převrátit barvy obrázku, Obamova tvář se konečně objevila v náhledu obrázku.

Ostatní uživatelé začali provádět vlastní experimenty. Uživatelé znovu a znovu zjistili, že se zdálo, že algoritmus neustále upřednostňuje bílé tváře před černými.

Liz Kelley, členka komunikačního týmu Twitteru, zaslala tweet v odpovědi na zjištění uživatelů Twitteru. Poznamenala, že zatímco tým Twitteru již testoval algoritmus na zkreslení, musel by to prozkoumat dále.

Všechny tyto objevy pocházejí z Tweetu uživatele o a Zvětšit problém s hovorem. Zoom se nepodařilo detekovat tvář jeho černého přítele, když se pokusil použít virtuální pozadí. Když se uživatel obrátil na Twitter, aby zveřejnil snímky obrazovky s problémem, Twitter ořízl svého černého přítele z náhledu obrázku.

Odstranění zaujatosti z Twitteru

I když jsou všechny tyto experimenty neformální, zdá se, že upozorňují na skutečný problém. Twitter se určitě bude muset blíže podívat na svou funkci automatického oříznutí a zjistit, zda má zakořeněnou rasovou zaujatost.

To znamená, že algoritmus automatického oříznutí Twitteru není jedinou funkcí Twitteru, která byla kritizována. Koneckonců, mnoho uživatelů také není fanoušky algoritmu platformy, který automaticky uspořádá váš zdroj.

Jak (a proč) zakázat algoritmické kanály na Twitteru, Instagramu a Facebooku

Algoritmické kanály slouží pouze sociálním sítím. Zde je postup, jak změnit chronologické kanály na Twitteru, Instagramu a Facebooku.

O autorovi