I augusti 2021 avslöjade Apple sina planer på att skanna iPhones efter bilder av sexuella övergrepp mot barn. Flytten väckte applåder från barnskyddsgrupper men väckte oro bland integritets- och säkerhetsexperter att funktionen skulle kunna missbrukas.
Apple planerade initialt att inkludera skanningstekniken för sexuellt övergrepp mot barn (CSAM) i iOS 15; den har istället försenat funktionens utrullning på obestämd tid för att be om feedback innan den släpps i sin helhet.
Så varför blev CSAM-detekteringsfunktionen föremål för het debatt, och vad fick Apple att skjuta upp lanseringen?
Vad gör Apples fotoskanningsfunktion?
Apple meddelade att de skulle implementera fotoskanningsfunktionen i hopp om att bekämpa sexuella övergrepp mot barn. Alla foton på Apple-användares enheter kommer att skannas efter pedofilit innehåll med hjälp av “NueralHash”-algoritmen skapad av Apple.
Dessutom skulle alla Apple-enheter som används av barn ha en säkerhetsfunktion som automatiskt suddar vuxna bilder om de tas emot av ett barn, och användaren skulle varnas två gånger om de försökte öppna dem.
Förutom att minimera exponeringen för vuxet innehåll, om föräldrar registrerar enheterna som ägs av deras barn för ytterligare säkerhet, kommer föräldrarna att meddelas om barnet får explicit innehåll från någon online.
När det gäller vuxna som använder Siri för att leta efter allt som sexualiserar barn, kommer Siri inte att göra den sökningen och föreslå andra alternativ istället.
Data från alla enheter som innehåller 10 eller fler foton som anses misstänkta av algoritmerna kommer att dekrypteras och granskas av människor.
Om dessa foton eller något annat i enheten visar sig stämma överens med något från databasen från National Center for Missing and Exploited Children kommer det att rapporteras till myndigheterna och användarens konto kommer att stängas av.
Huvudproblem angående fotoskanningsfunktionen
CSAM-detekteringsfunktionen skulle ha gått live med lanseringen av iOS 15 i september 2021, men inför ett utbrett ramaskri beslutade Apple att ta mer tid för att samla in feedback och göra förbättringar av den här funktionen. Här är Apples fullständiga uttalande om förseningen:
“Förra månaden tillkännagav vi planer på funktioner som är avsedda att skydda barn från rovdjur som använder kommunikationsverktyg för att rekrytera och utnyttja dem, och begränsa spridningen av material för sexuella övergrepp mot barn.
Baserat på feedback från kunder, påverkansgrupper, forskare och andra, har vi beslutat att ta ytterligare tid under de kommande månaderna för att samla in input och göra förbättringar innan vi släpper dessa kritiskt viktiga barnsäkerhetsfunktioner.”
Nästan hälften av farhågorna relaterade till Apples fotoskanningsfunktion kretsar kring integritet; resten av argumenten inkluderar den troliga felaktigheten i algoritmer och potentiellt missbruk av systemet eller dess kryphål.
Låt oss dela upp det i fyra delar.
Potentiellt missbruk
Att veta att allt material som matchar barnpornografi eller kända bilder av sexuella övergrepp mot barn kommer att få en enhet i listan “misstänkta” kan sätta cyberbrottslingar i rörelse.
De kan avsiktligt bombardera en person med olämpligt innehåll genom iMessage, WhatsApp eller något annat sätt och få den personens konto avstängt.
Apple har försäkrat att användare kan överklaga om deras konton har stängts av på grund av ett missförstånd.
Insidermissbruk
Även om den är utformad för en välvillig sak, kan den här funktionen förvandlas till en total katastrof för vissa människor om deras enheter registreras i systemet, med eller utan deras vetskap, av släktingar som är intresserade av att övervaka deras kommunikation.
Även om det inte händer har Apple skapat en bakdörr för att göra användarnas data tillgänglig i slutet av dagen. Nu handlar det om motivation och beslutsamhet för människor att få tillgång till andras personliga uppgifter.
Det underlättar inte bara ett stort kränkning av integriteten, utan banar också väg för kränkande, giftiga eller kontrollerande släktingar, vårdnadshavare, vänner, älskare, vårdare och ex att ytterligare invadera någons personliga utrymme eller begränsa deras frihet.
Å ena sidan är det tänkt att bekämpa sexuella övergrepp mot barn; å andra sidan kan den användas för att ytterligare föreviga andra typer av övergrepp.
Regeringens övervakning
Apple har alltid utropat sig själv som ett mer integritetsmedvetet varumärke än sina konkurrenter. Men nu kan det gå in i en hal backe av att behöva uppfylla de oändliga kraven på insyn i användardata från regeringar.
Systemet som det har skapat för att upptäcka pedofilit innehåll kan användas för att upptäcka alla typer av innehåll på telefoner. Det betyder att regeringar med en kultmentalitet kan övervaka användare på en mer personlig nivå om de får tag på det.
Förtryckande eller inte, statlig inblandning i ditt dagliga och personliga liv kan vara irriterande och är ett intrång i din integritet. Tanken att du bara behöver vara orolig för sådana invasioner om du har gjort något fel är felaktigt tänkande och misslyckas med att se den tidigare nämnda halkbanan.
Falska larm
En av de största problemen med att använda algoritmer för att matcha bilder med databasen är falska larm. Hashingalgoritmer kan av misstag identifiera två foton som matchningar även när de inte är samma. Dessa fel, som kallas “kollisioner”, är särskilt alarmerande i samband med innehåll med sexuella övergrepp mot barn.
Forskare hittade flera kollisioner i “NeuralHash” efter att Apple meddelade att de skulle använda algoritmen för att skanna bilder. Apple svarade på frågor om falsklarm genom att påpeka att resultatet kommer att granskas av en människa i slutet, så folk behöver inte oroa sig för det.
Är Apples CSAM-paus permanent?
Det finns många för- och nackdelar med Apples föreslagna funktion. Var och en av dem är äkta och håller vikt. Det är fortfarande oklart vilka specifika förändringar Apple kan införa i CSAM-skanningsfunktionen för att tillfredsställa sina kritiker.
Det kan begränsa skanningen till delade iCloud-album istället för att involvera användarnas enheter. Det är mycket osannolikt för Apple att släppa dessa planer helt eftersom företaget vanligtvis inte är benäget att ge efter för sina planer.
Det är dock uppenbart från den utbredda motreaktionen och Apples avvaktande av sina planer, att företag bör införliva forskarvärlden från början, särskilt för en oprövad teknologi.
Om författaren
Fawad Ali (22 publicerade artiklar)
Fawad är en IT- och kommunikationsingenjör, blivande entreprenör och författare. Han gick in på arenan för innehållsskrivande 2017 och har arbetat med två digitala marknadsföringsbyråer och många B2B & B2C-kunder sedan dess. Han skriver om säkerhet och teknik på MUO, med syftet att utbilda, underhålla och engagera publiken.
Mer från Fawad Ali
Prenumerera på vårt nyhetsbrev
Gå med i vårt nyhetsbrev för tekniska tips, recensioner, gratis e-böcker och exklusiva erbjudanden!
Klicka här för att prenumerera
