äpple har tillkännagav planer på att skanna iPhones efter bilder av övergrepp mot barnväcker omedelbar oro ang användarnas integritet och övervakning med rörelse
Har Apples iPhone blivit en iSpy?
Apple säger att dess system är automatiserat, inte skannar verkliga bilder, använder någon typ av hashat datasystem för att identifiera kända fall av material för sexuella övergrepp mot barn (CSAM), och säger att det har vissa skyddsåtgärder för att skydda integriteten.
Sekretessförespråkare varnar för att nu när de har skapat ett sådant system är Apple på en svår väg mot en obönhörlig expansion av innehållsskanning och rapportering på enheten som skulle kunna, och sannolikt kommer, att missbrukas av vissa nationer.
Vad Apple-systemet gör
Det finns tre huvudelement i systemet, som kommer att döljas i iOS 15, iPadOS 15 och macOS Monterey när de skickas senare i år.
-
Skannar dina bilder
Apples system skannar alla bilder lagrade i iCloud Photos för att se om de matchar CSAM-databasen som innehas av Nationellt centrum för försvunna och utnyttjade barn (NCMEC).
Bilder skannas in i enheten med hjälp av en hashdatabas med kända CSAM-bilder från NCMEC och andra barnsäkerhetsorganisationer. Apple förvandlar ytterligare denna databas till en oläsbar uppsättning hash som lagras säkert på användarnas enheter.
När en bild lagras i iCloud Photos sker en matchningsprocess. I händelse av att ett konto passerar en tröskel för flera instanser av känt CSAM-innehåll, varnas Apple. Om du får en varning granskas uppgifterna manuellt, kontot avaktiveras och NCMEC rapporteras.
Systemet är dock inte perfekt. Företaget säger att det är mindre än en på en miljard chans att felaktigt flagga ett konto. Apple har mer än 1 miljard användare, vilket betyder att det finns mer än 1/1000 chans att någon kommer att bli felidentifierad varje år. Användare som känner att de har flaggats av misstag kan överklaga.
Bilder skannas in i enheten.
-
Skannar dina meddelanden
Apples system använder maskininlärning på enheten för att skanna bilder i meddelanden som skickas eller tas emot av minderåriga efter sexuellt explicit material, vilket varnar föräldrar om sådana bilder identifieras. Föräldrar kan aktivera eller inaktivera systemet, och allt innehåll som tas emot av ett barn kommer att suddas ut.
Om ett barn försöker skicka in sexuellt explicit innehåll kommer de att varnas och föräldrar kommer att informeras. Apple säger att de inte har tillgång till bilderna, som skannas in i enheten.
-
Letar efter det du letar efter
Den tredje delen består av Siri- och sökuppdateringar. Apple säger att dessa nu kommer att ge föräldrar och barn utökad information och hjälp om de hamnar i osäkra situationer. Siri och Search kommer också att ingripa när människor frågar vad som anses vara CSAM-relaterade sökfrågor, vilket förklarar att intresset för detta ämne är problematiskt.
Apple informerar oss hjälpsamt att dess program är “ambitiöst” och att ansträngningarna kommer att “utvecklas och expandera över tiden.”
Lite teknisk data
Företaget har publicerade en omfattande teknisk vitbok Det förklarar lite mer om ditt system. I dokumentet tar det möda att försäkra användarna om att det inte lär sig något om bilder som inte matchar databasen.
Apples teknik, kallad NeuralHash, analyserar kända CSAM-bilder och omvandlar dem till ett unikt nummer specifikt för varje bild. Endast en annan bild som ser nästan identisk ut kan producera samma antal; till exempel kommer bilder som skiljer sig i storlek eller omkodad kvalitet fortfarande att ha samma NeuralHash-värde.
När bilder läggs till i iCloud Photos jämförs de med databasen för att identifiera en matchning.
Om en matchning hittas skapas ett kryptografiskt säkerhetsbevis som, jag förstår, även gör det möjligt för en Apple-granskare att dekryptera och komma åt den stötande bilden om tröskeln för sådant innehåll skulle nås och åtgärder krävs.
“Apple kan bara lära sig relevant bildinformation när kontot har mer än ett tröskelvärde för CSAM-matchningar, och även då endast för matchande bilder”, avslutas dokumentet.
Apple är inte unikt, men analys på enheten kan vara det
Apple är inte den enda som måste dela CSAM-bilder med myndigheter. Enligt lag måste alla amerikanska företag som hittar sådant material på sina servrar samarbeta med brottsbekämpande myndigheter för att undersöka det. FacebookMicrosoft och Google har redan teknologier som skannar sådant material som delas via e-post eller meddelandeplattformar.
Skillnaden mellan dessa system och detta är att analysen utförs på enheten, inte på företagets servrar.
Apple har alltid hävdat att dess meddelandeplattformar är end-to-end-krypterade, men detta blir lite av ett semantiskt påstående om innehållet i en persons enhet skannas innan kryptering äger rum.
Att skydda barn är naturligtvis något som de flesta rationella människor stödjer. Men det som oroar integritetsförespråkare är att vissa regeringar nu kan försöka tvinga Apple att söka efter annat material på människors enheter.
En regering som förbjuder homosexualitet skulle kunna kräva att sådant innehåll också övervakas till exempel. Vad händer om en tonåring i en nation som förbjuder icke-binär sexuell aktivitet ber Siri om hjälp att komma ut? Och hur är det med diskreta ambient-lyssningsenheter, som HomePods? Det är inte klart att den sökrelaterade komponenten i detta system implementeras där, men det är tänkbart att det är det.
Och det är fortfarande oklart hur Apple kommer att kunna skydda sig mot sådana uppdragskrypningar.
Sekretessförespråkare är extremt oroade
De flesta integritetsförespråkare anser att det finns en betydande möjlighet till eskalering av uppdrag som är inneboende i denna plan, vilket inte gör något för att upprätthålla tron på Apples engagemang för användarnas integritet.
Hur kan en användare känna att integriteten är skyddad om själva enheten spionerar på dem och de inte har någon kontroll över hur man gör det?
han Electronic Frontier Foundation (EFF) varnar för att denna plan effektivt skapar en säkerhetsbakdörr.
“Allt som krävs för att utöka den smala bakdörr som Apple bygger är en utökning av maskininlärningsparametrar för att söka efter ytterligare typer av innehåll, eller en justering av inställningsflaggor för att skanna, inte bara barns konton. , utan allas. Det är inte en hal backe; det är ett fullt konstruerat system som väntar på yttre tryck för att göra den minsta förändring.”
“När Apple utvecklar teknik som är kapabel att skanna krypterat innehåll kan du inte bara säga, “ja, jag undrar vad den kinesiska regeringen skulle göra med den tekniken.” Det är inte teoretiskt”, varnade John Hopkins-professorn. Matthew Green.
Alternativa argument
Det finns andra argument. En av de mest övertygande är att servrarna hos ISP:er och e-postleverantörer redan skannas efter sådant innehåll, och att Apple har skapat ett system som minimerar mänskligt engagemang och bara flaggar ett problem om det identifierar flera matchningar mellan CSAM-databasen och innehållet på enheten.
Det råder ingen tvekan om att barn är i riskzonen.
Av de nästan 26 500 rymlingar som rapporterades till NCMEC 2020 var en av sex sannolikt offer för barnsexhandel. CyberTipline från organisationen (som jag antar att Apple är ansluten till i det här fallet) fick mer än 21,7 miljoner rapporter relaterad till någon form av CSAM 2020.
John Clark, VD och koncernchef för NCMEC, ordspråk: “Med så många människor som använder Apple-produkter har dessa nya säkerhetsåtgärder potential att rädda liv för barn som lockas online och vars hemska bilder cirkulerar på CSAM. På National Center for Missing and Exploited Children vet vi att detta brott endast kan bekämpas om vi är orubbliga i vårt engagemang för att skydda barn. Vi kan bara göra detta för att teknikpartners, som Apple, går upp och gör sitt engagemang känt.”
Andra säger att genom att skapa ett system för att skydda barn från sådana grova brott, eliminerar Apple ett argument som vissa kan använda för att motivera enhetens bakdörrar mer allmänt.
De flesta av oss är överens om att barn bör skyddas, och genom att göra det har Apple urholkat det argumentet som vissa repressiva regeringar skulle kunna använda för att tvinga fram frågan. Den måste nu motsätta sig alla uppdrag som sådana regeringar gör.
Den sista utmaningen är det största problemet, med tanke på att Apple, när man trycker på det, alltid följ lagarna i regeringarna i de länder där du gör affärer.
“Oavsett hur välmenande det är, implementerar Apple massövervakning runt om i världen med detta”, varnade en framstående integritetsförespråkare. Edward Snowden. Om de kan söka efter CSAM idag, “kan de söka efter vad som helst i morgon.”
