Internet har gjort många saker lättare, från att hålla kontakten med vänner och familj till att få ett jobb och till och med jobba på distans. Fördelarna med detta uppkopplade datorsystem är enorma, men det finns också en nackdel.
Till skillnad från nationalstater är internet ett globalt nätverk som ingen enskild regering eller myndighet kan kontrollera. Följaktligen hamnar olagligt material på nätet, och det är otroligt svårt att förhindra barn från att lida och fånga de ansvariga.
En teknik som Microsoft utvecklat tillsammans med namnet PhotoDNA är dock ett steg mot att skapa ett säkrare onlineutrymme för både barn och vuxna.
Vad är PhotoDNA?
PhotoDNA är ett bildidentifieringsverktyg, som först utvecklades 2009. Även om det huvudsakligen är en tjänst med stöd av Microsoft, utvecklades det tillsammans av professor Hany Farid från Dartmouth College, en expert på digital fotoanalys. Syftet med PhotoDNA är att identifiera olagliga bilder, inklusive material för sexuellt övergrepp mot barn, allmänt känt som CSAM.
I takt med att smartphones, digitalkameror och höghastighetsinternet har blivit vanligare, så har mängden CSAM som hittats online också. I ett försök att identifiera och ta bort dessa bilder, tillsammans med annat olagligt material, innehåller PhotoDNA-databasen miljontals poster för kända bilder av övergrepp.
Microsoft driver systemet och databasen underhålls av det USA-baserade National Center for Missing & Exploited Children (NCMEC), en organisation som arbetar för att förhindra övergrepp mot barn. Bilder tar sig till databasen när de har rapporterats till NCMEC.
Även om det inte är den enda tjänsten för att söka efter känd CSAM, är PhotoDNA en av de vanligaste metoderna, inklusive många digitala tjänster som Reddit, Twitter och de flesta Google-ägda produkter.
PhotoDNA var tvungen att konfigureras fysiskt på plats i början, men Microsoft driver nu den molnbaserade PhotoDNA Cloud-tjänsten. Detta gör att mindre organisationer utan stor infrastruktur kan utföra CSAM-detektering.
Hur fungerar PhotoDNA?
När internetanvändare eller brottsbekämpande myndigheter stöter på övergreppsbilder rapporteras de till NCMEC via CyberTipline. Dessa är katalogiserade och informationen delas med brottsbekämpande myndigheter om den inte redan var det. Bilderna laddas upp till PhotoDNA, som sedan börjar skapa en hash, eller digital signatur, för varje enskild bild.
För att nå detta unika värde omvandlas fotot till svartvitt, delas upp i rutor och programvaran analyserar den resulterande skuggningen. Den unika hashen läggs till i PhotoDNA:s databas, delad mellan fysiska installationer och PhotoDNA Cloud.
Programvaruleverantörer, brottsbekämpande myndigheter och andra betrodda organisationer kan implementera PhotoDNA-skanning i sina produkter, molnprogramvara eller andra lagringsmedier. Systemet skannar varje bild, konverterar den till ett hashvärde och jämför den med CSAM-databashasharna.
Om en matchning hittas larmas den ansvariga organisationen och uppgifterna skickas vidare till brottsbekämpande myndigheter för åtal. Bilderna tas bort från tjänsten och användarens konto avslutas.
Viktigt är att ingen information om dina foton lagras, tjänsten är helt automatiserad utan mänsklig inblandning och du kan inte återskapa en bild från ett hashvärde.
Sedan 2015 har organisationer också kunnat använda PhotoDNA för att analysera videor.
I augusti 2021 bröt Apple steget med de flesta andra Big Tech-företag och meddelade att de skulle använda sin egen tjänst för att skanna användarens iPhones efter CSAM.
Förståeligt nog fick dessa planer avsevärd motreaktion för att de såg ut att bryta mot företagets integritetsvänliga hållning, och många människor var oroliga för att skanningen gradvis skulle omfatta icke-CSAM, vilket så småningom skulle leda till en bakdörr för brottsbekämpning.
Använder PhotoDNA ansiktsigenkänning?
Nuförtiden är vi tillräckligt bekanta med algoritmer. Dessa kodade instruktioner visar oss relevanta, intressanta inlägg i våra sociala medier, stödjer ansiktsigenkänningssystem och bestämmer till och med om vi blir erbjudna en anställningsintervju eller kommer in på college.
Du kanske tror att algoritmer skulle vara kärnan i PhotoDNA, men att automatisera bilddetektering på detta sätt skulle vara mycket problematiskt. Till exempel skulle det vara otroligt invasivt, skulle kränka vår integritet, och det är inte att nämna att algoritmer inte alltid är rätt.
Google har till exempel haft väldokumenterade problem med sin mjukvara för ansiktsigenkänning. När Google Photos först lanserades, kategoriserade det offensivt svarta människor som gorillor. I mars 2017 fick en tillsynskommitté i parlamentet höra att vissa ansiktsigenkänningsalgoritmer var fel 15 procent av gångerna och mer sannolikt att de felidentifierade svarta människor.
Dessa typer av maskininlärningsalgoritmer är allt vanligare men kan vara utmanande att övervaka på lämpligt sätt. I själva verket fattar programvaran sina egna beslut, och du måste omvända konstruera hur den kom fram till ett specifikt resultat.
Förståeligt nog, med tanke på vilken typ av innehåll PhotoDNA letar efter, kan effekten av felaktig identifiering vara katastrofal. Lyckligtvis förlitar sig systemet inte på ansiktsigenkänning och kan bara hitta föridentifierade bilder med en känd hash.
Använder Facebook PhotoDNA?
Som ägare och operatör av världens största och mest populära sociala nätverk hanterar Facebook mycket användargenererat innehåll varje dag. Även om det är svårt att hitta tillförlitliga, aktuella uppskattningar, antydde analys 2013 att cirka 350 miljoner bilder laddas upp till Facebook varje dag.
Detta kommer sannolikt att bli mycket högre nu när fler människor har anslutit sig till tjänsten, företaget driver flera nätverk (inklusive Instagram och WhatsApp), och vi har lättare tillgång till smartphonekameror och pålitligt internet. Med tanke på sin roll i samhället måste Facebook minska och ta bort CSAM och annat olagligt material.
Lyckligtvis åtgärdade företaget detta tidigt och valde Microsofts PhotoDNA-tjänst 2011. Sedan tillkännagivandet för över ett decennium sedan har det funnits lite information om hur effektivt detta har varit. 91 procent av alla rapporter om CSAM under 2018 kom dock från Facebook och Facebook Messenger.
Gör PhotoDNA Internet säkrare?
Den Microsoft-utvecklade tjänsten är utan tvekan ett viktigt verktyg. PhotoDNA spelar en avgörande roll för att förhindra att dessa bilder sprids och kan till och med hjälpa till att hjälpa barn i riskzonen.
Den största bristen i systemet är dock att det bara kan leta efter föridentifierade bilder. Om PhotoDNA inte har en hash lagrad, kan den inte identifiera otillåtna bilder.
Det är enklare än någonsin att ta och ladda upp högupplösta övergreppsbilder online, och missbrukarna tar sig allt mer till säkrare plattformar som Dark Web och krypterade meddelandeappar för att dela det olagliga materialet. Om du inte har stött på Dark Web tidigare är det värt att läsa om riskerna med den dolda sidan av internet.
Om författaren
James Frew (297 publicerade artiklar)
James är en erfaren teknikjournalist och var tidigare MakeUseOfs Buyer’s Guide Editor. Hans mål är att göra teknik tillgänglig och säker för alla. Medan han tog examen med en BIng i maskinteknik, brinner han också för mental hälsa, hållbarhet och musik.
Mer från James Frew
Prenumerera på vårt nyhetsbrev
Gå med i vårt nyhetsbrev för tekniska tips, recensioner, free e-böcker och exklusiva erbjudanden!
Klicka här för att prenumerera
