Twitter odhaluje, že se ořezávání umělé inteligence kvůli rasové a genderové zaujatosti zbavilo

Poprvé jsme slyšeli myšlenku, že algoritmus ořezávání obrázků na Twitteru může mít určité předsudky, v září 2020. Kryptografický inženýr Tony Arcieri nahrál dva obrázky představující vůdce senátní většiny Mitcha McConnella a bývalého prezidenta Baracka Obamu a umělá inteligence se ořízla McConnellovi do tváře.

Když se kontroverze nakonec dostala k lidem na Twitteru, společnost slíbila provést analýzu svého modelu. Nakonec si tato zjištění přečteme.

Twitter sdílí výsledky své analýzy algoritmů

Počátkem května Twitter konečně vytvořil náhledy obrázků v plné velikosti na jeho mobilních časových osách. Příspěvek na blogu Twitter odhalil, že aplikace axedovala svůj algoritmus oříznutí obrazu poté, co analýza ukázala, že má předsudky založené na rase a pohlaví.

Platforma začala v roce 2018 používat algoritmus saliency k oříznutí svých obrázků. Twitter říká, že modely saliency jsou trénovány na datech sledování lidského oka, které pak používá algoritmus k odhadu, jaké předměty / prvky na obrázku si myslí, že je pro většinu lidí nejdůležitější lidé.

Algoritmus by pak přišel s výběžkem pro všechny části obrazu, než by vybral bod s nejvyšším skóre jako střed plodiny.

Po provedení kvantitativního testu pro kontrolu potenciálních předsudků tým zjistil, že algoritmus saliency zřejmě upřednostňuje ženy před muži a bílé jedince před černými jedinci.

Twitter také testoval algoritmus „mužského pohledu“, ale nebyl nalezen žádný důkaz zkreslení objektivizace.

I když byl algoritmus výběžku upraven tak, aby odrážel dokonalou rovnost mezi rasovými a genderovými podskupinami, máme [Twitter] obavy reprezentativním poškozením automatizovaného algoritmu, když lidé nesmějí na serveru zastupovat sami sebe, jak si přejí plošina. Saliency také drží další potenciální škody nad rámec této analýzy, včetně necitlivosti na kulturní nuance.

Při zvažování kompromisů mezi rychlostí a konzistencí automatizovaného pěstování a jeho riziky, Twitter říká, že jeho tým si uvědomil, že jak oříznout obrázek je rozhodnutí, které nejlépe dělají lidé - ne algoritmy.

Příbuzný: Technologické trendy, které již mění budoucnost

Twitter se zbavuje automatického ořezávání obrazu

Twitter již nepoužívá algoritmus saliency a nyní zobrazuje fotografie standardního poměru stran v plném rozsahu na iOS i Android. Při tvorbě tweetu zjistíte, že nová aktualizace obsahuje také skutečný náhled nahraných obrázků, abyste věděli, jak bude vše vypadat po publikování.

Pokud máte zájem přečíst si akademickou práci studie, najdete ji na arXiv.org. Můžete také najít kód Twitteru pro analýzu na GitHub.

Jak nahrávat a prohlížet obrázky 4K na Twitteru

Aplikace Twitter nyní umožňuje nahrávat a prohlížet obrázky ve 4K. Zde můžete změnit nastavení.

Přečtěte si další

O autorovi