Co je PhotoDNA a jak funguje?

Internet usnadnil mnoho věcí, od kontaktu s přáteli a rodinou až po získání zaměstnání a dokonce i práci na dálku. Výhody tohoto propojeného systému počítačů jsou obrovské, ale má i stinnou stránku.

Na rozdíl od národních států je internet globální sítí, kterou nemůže ovládat žádná vláda ani úřad. V důsledku toho nelegální materiál končí na internetu a je neuvěřitelně těžké zabránit dětem v utrpení a dopadnout zodpovědné.

Technologie vyvinutá společností Microsoft s názvem PhotoDNA je však krokem k vytvoření bezpečnějšího online prostoru pro děti i dospělé.

Co je PhotoDNA?

PhotoDNA je nástroj pro identifikaci obrázků, který byl poprvé vyvinut v roce 2009. Přestože jde především o službu podporovanou společností Microsoft, byla vyvinuta profesorem Hany Faridem z Dartmouth College, odborníkem na digitální analýzu fotografií. Účelem PhotoDNA je identifikovat nelegální obrázky, včetně materiálů o sexuálním zneužívání dětí, běžně známých jako CSAM.

S tím, jak se stále častěji objevují chytré telefony, digitální fotoaparáty a vysokorychlostní internet, roste i množství CSAM, které lze najít online. Ve snaze identifikovat a odstranit tyto obrázky spolu s dalším nelegálním materiálem obsahuje databáze PhotoDNA miliony záznamů o známých obrázcích zneužívání.

Microsoft provozuje systém a databázi spravuje americké Národní centrum pro pohřešované a zneužívané děti (NCMEC), organizace zabývající se prevencí zneužívání dětí. Obrázky se dostanou do databáze, jakmile jsou nahlášeny NCMEC.

Ačkoli to není jediná služba pro vyhledávání známých CSAM, PhotoDNA je jednou z nejběžnějších metod, včetně mnoha digitálních služeb jako Reddit, Twitter a většiny produktů vlastněných společností Google.

PhotoDNA musela být v počátcích fyzicky nastavena na místě, ale Microsoft nyní provozuje cloudovou službu PhotoDNA Cloud. To umožňuje menším organizacím bez rozsáhlé infrastruktury provádět detekci CSAM.

Jak PhotoDNA funguje?

Když uživatelé internetu nebo donucovací orgány narazí na obrázky zneužívání, jsou nahlášeny NCMEC prostřednictvím CyberTipline. Ty jsou katalogizovány a informace jsou sdíleny s orgány činnými v trestním řízení, pokud ještě nebyly. Obrázky se nahrají do aplikace PhotoDNA, která poté zahájí vytváření hash nebo digitálního podpisu pro každý jednotlivý obrázek.

Abyste se dostali k této jedinečné hodnotě, je fotografie převedena na černobílou fotografii, rozdělena na čtverce a software analyzuje výsledné stínování. Jedinečný hash je přidán do databáze PhotoDNA, sdílen mezi fyzickými instalacemi a cloudem PhotoDNA.

Poskytovatelé softwaru, orgány činné v trestním řízení a další důvěryhodné organizace mohou implementovat skenování PhotoDNA do svých produktů, cloudového softwaru nebo jiných paměťových médií. Systém naskenuje každý obrázek, převede jej na hodnotu hash a porovná jej s hašováním databáze CSAM.

Pokud je nalezena shoda, je odpovědná organizace upozorněna a podrobnosti jsou předány orgánům činným v trestním řízení k trestnímu stíhání. Obrázky jsou ze služby odstraněny a uživatelský účet je ukončen.

Důležité je, že nejsou uloženy žádné informace o vašich fotografiích, služba je plně automatizovaná bez zapojení lidí a nemůžete znovu vytvořit obrázek z hodnoty hash.

Od roku 2015 mohou organizace používat PhotoDNA také k analýze videí.

V srpnu 2021 Apple zlomil krok s většinou ostatních Big Tech firem a oznámil, že budou používat své vlastní služba pro skenování uživatelských iPhonů na CSAM.

Pochopitelně tyto plány získaly značnou reakci, protože se zdálo, že porušují postoj společnosti k ochraně soukromí, a mnoho lidí se obává, že skenování bude postupně zahrnovat non-CSAM, což nakonec povede k zadním vrátkům práva vynucení.

Používá PhotoDNA rozpoznávání obličeje?

V dnešní době jsme s algoritmy dostatečně obeznámeni. Tyto kódované pokyny nám ukazují relevantní, zajímavé příspěvky na našich kanálech sociálních médií, podporují systémy rozpoznávání obličeje a dokonce rozhodují, zda nám bude nabídnut pracovní pohovor, nebo se dostaneme na vysokou školu.

Můžete si myslet, že algoritmy budou jádrem PhotoDNA, ale automatizace detekce obrazu tímto způsobem by byla velmi problematická. Například by to bylo neuvěřitelně invazivní, narušilo by to naše soukromí a nemluvě o tom, že algoritmy nejsou vždy správné.

Například Google má dobře zdokumentované problémy se softwarem pro rozpoznávání obličeje. Když se Google Photos poprvé spustily, urážlivě to kategorizovalo černé lidi jako gorily. V březnu 2017 slyšel sněmovní výbor pro dohled, že některé algoritmy rozpoznávání obličeje byly 15 procent času nesprávné a pravděpodobněji špatně identifikovaly černé lidi.

Tyto typy algoritmů strojového učení jsou stále běžnější, ale jejich sledování je náročné. Software se efektivně rozhoduje sám a vy musíte zpětně analyzovat, jak došel ke konkrétnímu výsledku.

Je pochopitelné, že vzhledem k typu obsahu, který PhotoDNA hledá, by účinek nesprávné identifikace mohl být katastrofický. Naštěstí systém nespoléhá na rozpoznávání obličejů a dokáže najít pouze předem identifikované obrázky se známým hashem.

Používá Facebook PhotoDNA?

Jako majitel a provozovatel největších a nejpopulárnějších sociálních sítí na světě se Facebook každý den zabývá spoustou obsahu generovaného uživateli. Ačkoli je těžké najít spolehlivé, aktuální odhady, analýza v roce 2013 navrhl, aby bylo na Facebook denně nahráno asi 350 milionů obrázků.

To bude nyní pravděpodobně mnohem vyšší, protože se ke službě připojilo více lidí, společnost provozuje několik sítě (včetně Instagramu a WhatsAppu) a máme snadnější přístup ke kamerám chytrých telefonů a spolehlivost Internet. Vzhledem ke své roli ve společnosti musí Facebook omezit a odstranit CSAM a další nelegální materiál.

Naštěstí to společnost brzy vyřešila a v roce 2011 se rozhodla pro službu PhotoDNA společnosti Microsoft. Od oznámení před více než deseti lety existuje jen málo údajů o tom, jak efektivní to bylo. Nicméně, 91 procent všechny zprávy o CSAM v roce 2018 pocházely z Facebooku a Facebook Messengeru.

Díky PhotoDNA je internet bezpečnější?

Služba vyvinutá společností Microsoft je nepochybně nezbytným nástrojem. PhotoDNA hraje zásadní roli v prevenci šíření těchto obrázků a může dokonce pomoci pomoci ohroženým dětem.

Hlavní chybou systému je však to, že dokáže vyhledávat pouze předem identifikované obrázky. Pokud PhotoDNA nemá uložený hash, pak nedokáže identifikovat urážlivé obrázky.

Je snadnější než kdy jindy pořizovat a nahrávat obrázky zneužívání ve vysokém rozlišení online, a zneužívající uživatelé ano stále více se snaží sdílet bezpečnější platformy, jako je Dark Web a aplikace pro šifrované zprávy nelegální materiál. Pokud jste na Dark Web ještě nenarazili, stojí za to si přečíst o rizicích spojených se skrytou stránkou internetu.

Je Dark Web nelegální?

Kriminální aktivity lze nalézt prostřednictvím darknets, ale je vlastně nezákonné jít na dark web?

Číst dále

O autorovi