Proč Apple ustoupil od své funkce skenování fotografií?

V srpnu 2021 Apple odhalil své plány na skenování iPhonů na obrázky sexuálního zneužívání dětí. Tento krok vyvolal u skupin na ochranu dětí potlesk, ale mezi odborníky na soukromí a bezpečnost vyvolal obavy, že by tato funkce mohla být zneužita.

Apple původně plánoval zahrnout do iOS 15 skenovací technologii CSAM (Child Sexual Abuse Material); místo toho donekonečna oddalovalo zavedení funkce a vyžádalo si zpětnou vazbu před jejím úplným vydáním.

Proč se tedy funkce detekce CSAM stala předmětem vášnivých debat a proč Apple odložil její zavedení?

Co dělá funkce skenování fotografií od společnosti Apple?

Společnost Apple oznámila implementaci funkce skenování fotografií v naději, že bude bojovat proti sexuálnímu zneužívání dětí. Všechny fotografie v zařízeních uživatelů Apple budou skenovány na pedofilní obsah pomocí algoritmu „NueralHash“ vytvořeného společností Apple.

Kromě toho by všechna zařízení Apple používaná dětmi měla bezpečnostní funkci, která bude automaticky rozmazání obrázků pro dospělé, pokud je obdrží dítě, a uživatel by byl dvakrát varován, pokud by se pokusil otevřít jim.

Kromě minimalizace expozice obsahu pro dospělé, pokud rodiče zaregistrují zařízení, která vlastní jejich děti další bezpečnost, rodiče by byli upozorněni v případě, že dítě dostane od někoho explicitní obsah online.

Přečtěte si více: Co potřebujete vědět o ochraně dětí od společnosti Apple

Pokud jde o dospělé, kteří používají Siri k hledání čehokoli, co sexualizuje děti, Siri toto vyhledávání neprovede a místo toho navrhne jiné alternativy.

Data z jakéhokoli zařízení obsahujícího 10 nebo více fotografií, které algoritmy považují za podezřelé, budou dešifrovány a podrobeny lidské kontrole.

Pokud se tyto fotografie nebo jiné v zařízení ukáží jako shodné s čímkoli z databáze poskytnuté Národní centrum pro pohřešované a zneužívané děti, bude nahlášeno úřadům a účet uživatele bude pozastaven.

Hlavní obavy týkající se funkce skenování fotografií

Funkce detekce CSAM by byla spuštěna s uvedením iOS 15 v září 2021, ale tváří v tvář v důsledku rozšířeného pobouření se společnost Apple rozhodla věnovat více času shromažďování zpětné vazby a vylepšování této funkce Vlastnosti. Tady je Úplné prohlášení společnosti Apple na zpoždění:

„Minulý měsíc jsme oznámili plány na funkce určené k ochraně dětí před predátory, kteří používat komunikační nástroje k jejich náboru a využívání a omezit šíření sexuálního zneužívání dětí Materiál.

Na základě zpětné vazby od zákazníků, advokačních skupin, výzkumných pracovníků a dalších jsme se rozhodli věnovat více času v nadcházejících měsících shromáždit podněty a provést vylepšení před vydáním těchto kriticky důležitých bezpečnostních opatření pro děti funkce".

Téměř polovina obav souvisejících s funkcí skenování fotografií společnosti Apple se točí kolem soukromí; zbytek argumentů zahrnuje pravděpodobnou nepřesnost algoritmů a potenciální zneužití systému nebo jeho mezer.

Pojďme to rozdělit na čtyři části.

Možné zneužití

Vědomí, že jakýkoli materiál odpovídající dětské pornografii nebo známým obrazům sexuálního zneužívání dětí dostane zařízení do seznamu „podezřelých“, může kyberzločince rozpohybovat.

Mohou záměrně bombardovat osobu nevhodným obsahem prostřednictvím služby iMessage, WhatsApp nebo jakýmkoli jiným způsobem a nechat pozastavit účet této osoby.

Apple ujistil, že uživatelé mohou podat odvolání v případě, že jim byly účty pozastaveny kvůli nedorozumění.

Zneužívání zasvěcených osob

Ačkoli je tato funkce navržena pro dobročinné účely, může se pro některé lidi, pokud jde o jejich zařízení, stát úplnou katastrofou jsou do systému registrováni příbuznými, kteří mají zájem sledovat jejich komunikaci, s jejich vědomím nebo bez něj.

I když se tak nestane, Apple vytvořil zadní vrátka, aby na konci dne zpřístupnil data uživatelů. Nyní je to otázka motivace a odhodlání lidí přistupovat k osobním informacím jiných lidí.

Příbuzný: Co jsou to zadní vrátka a k čemu slouží?

Nejenže usnadňuje zásadní narušení soukromí, ale také dláždí cestu zneužívajícím, toxickým nebo ovládajícím příbuzní, opatrovníci, přátelé, milenci, ošetřovatelé a bývalí, aby dále zasahovali do něčího osobního prostoru nebo omezovali jeho svoboda.

Na jedné straně je určen k boji proti sexuálnímu zneužívání dětí; na druhé straně jej lze použít k dalšímu zachování dalších druhů zneužívání.

Vládní dohled

Apple se vždy nabízel jako značka, která více dbá na ochranu osobních údajů než její konkurenti. Ale teď to může být vstup na kluzký svah nutnosti splnění nekonečných požadavků na transparentnost v uživatelská data vládami.

Systém, který vytvořil k detekci pedofilního obsahu, lze použít k detekci jakéhokoli obsahu v telefonech. To znamená, že vlády s kultovní mentalitou mohou sledovat uživatele na osobnější úrovni, pokud se jim to dostane do rukou.

Bez ohledu na to, zda je vláda represivní nebo ne, může být zneklidňující a narušovat vaše soukromí. Představa, že se takových invazí musíte obávat pouze tehdy, když jste udělali něco špatného, ​​je chybné myšlení a nevidí zmíněný kluzký svah.

Falešné poplachy

Jednou z největších starostí s použitím algoritmů k párování obrázků s databází jsou falešné poplachy. Hašovací algoritmy mohou omylem identifikovat dvě fotografie jako shody, i když nejsou stejné. Tyto chyby, nazývané „kolize“, jsou obzvláště alarmující v souvislosti s obsahem sexuálního zneužívání dětí.

Vědci našli v „NeuralHash“ několik kolizí poté, co Apple oznámil, že použije algoritmus pro skenování obrázků. Apple odpovídal na dotazy týkající se falešných poplachů poukazem na to, že výsledek bude na konci zkontrolován člověkem, takže si s tím lidé nemusí dělat starosti.

Je pozastavení CSAM společnosti Apple trvalé?

Funkce navrhovaná společností Apple má mnoho výhod a nevýhod. Každý z nich je pravý a má svoji váhu. Stále není jasné, jaké konkrétní změny by Apple mohl zavést do funkce skenování CSAM, aby uspokojil své kritiky.

Mohlo by to omezit skenování na sdílená alba iCloud namísto zapojení zařízení uživatelů. Je velmi nepravděpodobné, že by Apple od těchto plánů úplně upustil, protože společnost obvykle není ochotna se svých plánů vzdát.

Je to však zřejmé z rozšířeného odporu a toho, že Apple své plány zdržuje společnosti by měly začlenit výzkumnou komunitu od začátku, zejména pro netestované technologie.

Bezpečnost na internetu: 50+ tipů, jak zajistit bezpečí dětí online

Děti jsou hlavním cílem online predátorů a kyberšikan. Tyto užitečné tipy mohou rodiče naučit, jak je chránit online.

Číst dále

O autorovi