När vi går in i framtiden blir utsikterna för AI-drivna system mer tilltalande. Artificiell intelligens kommer att hjälpa oss att fatta beslut, driva våra smarta städer, och—tyvärr—infektera våra datorer med otäcka stammar av skadlig programvara.
Låt oss utforska vad framtiden för AI betyder för skadlig programvara.
Vad är AI i skadlig programvara?
När vi använder termen “AI-driven skadlig programvara” är det lätt att föreställa sig ett fall av Terminator-liknande av en AI “borta skurk” och orsakar förödelse. I verkligheten skulle ett skadligt AI-kontrollerat program inte skicka robotar tillbaka genom tiden; det vore smygare än så.
AI-driven skadlig programvara är konventionell skadlig kod som ändrats via artificiell intelligens för att göra den mer effektiv. AI-driven skadlig programvara kan använda sin intelligens för att infektera datorer snabbare eller göra attacker mer effektiva. Istället för att vara ett “dumt” program som följer förinställd kod, kan AI-driven skadlig programvara tänka själv — till en viss grad.
Hur förbättrar AI skadlig programvara?
Det finns flera sätt som artificiell intelligens kan förbättra skadlig programvara. Vissa av dessa metoder är figurativa, medan andra är påtagliga i den verkliga världen på något sätt.
Riktad Ransomware demonstrerad av DeepLocker
Ett av de mest läskiga exemplen på AI-driven skadlig programvara är Deeplocker. Tack och lov utvecklade IBM Research skadlig programvara som ett proof-of-concept så att du inte hittar det i naturen.
Konceptet med DeepLocker var att demonstrera hur AI kan smuggla in ransomware till en målenhet. Utvecklare av skadlig programvara kan göra en “spridning av hagelgevär” mot ett företag med ransomware, men det finns en stor chans att de inte lyckas infektera de viktiga datorerna. Som sådan kan varningen gå upp för tidigt för att skadlig programvara ska nå de mest framträdande målen.
DeepLocker var telekonferensprogramvara som smugglade in en unik stam av WannaCry. Det aktiverade dock inte nyttolasten; istället skulle det bara utföra sina uppgifter som ett telekonferensprogram.
När den gjorde sitt jobb, skulle den skanna ansiktena på personerna som använde den. Dess mål var att infektera en specifik persons dator, så den övervakade alla när de använde programvaran. När den upptäckte målets ansikte, skulle den aktivera nyttolasten och få PC:n att låsas av WannaCry.
Adaptiva maskar som lär sig av upptäckt
En teoretisk användning av AI i skadlig programvara är en mask som “kommer ihåg” varje gång ett antivirus upptäcker det. När den väl vet vilka åtgärder som får ett antivirusprogram att upptäcka det, slutar den att utföra den åtgärden och hittar ett annat sätt att infektera datorn.
Detta är särskilt farligt, eftersom dagens antivirus tenderar att ta slut med strikta regler och definitioner. Det betyder att allt en mask behöver göra är att hitta ett sätt som inte slår ut larmet. När den väl gör det kan den informera de andra stammarna om hålet i försvaret, så att de lättare kan infektera andra datorer.
Oberoende från utvecklaren
Modern skadlig programvara är ganska “dum”; den kan inte tänka själv eller fatta beslut. Den utför en rad uppgifter som utvecklaren gav den innan infektionen inträffade. Om utvecklaren vill att programvaran ska göra något nytt måste de sända nästa lista med instruktioner till sin skadliga programvara.
Detta kommunikationscentrum kallas en “kommando och kontroll” (C&C) server, och det måste döljas mycket väl. Om servern upptäcks kan det leda tillbaka till hackaren, vilket ofta slutar med arresteringar.
Om skadlig programvara kan tänka själv, finns det dock inget behov av en C&C-server. Utvecklaren släpper lös skadlig programvara och lutar sig tillbaka medan skadlig programvara gör allt arbete. Detta innebär att utvecklaren inte behöver riskera att ta sig ut sig själv medan han ger kommandon; de kan bara “ställa in och glömma” sin skadliga programvara.
Övervaka användarröster för känslig information
Om en AI-driven skadlig kod får kontroll över ett måls mikrofon kan den lyssna in och spela in vad folk säger i närheten. AI:n går sedan igenom vad den hörde, transkriberar det till text och skickar sedan tillbaka texten till utvecklaren. Detta gör livet lättare för utvecklaren, som inte behöver sitta med timmar av ljudinspelning för att hitta affärshemligheter.
Hur kan en dator “lära sig?”
Skadlig programvara kan lära av sina handlingar genom vad som kallas “maskininlärning”. Detta är ett specifikt område av AI, relaterat till hur datorer kan lära av sina ansträngningar. Maskininlärning är användbart för AI-utvecklare eftersom de inte behöver koda för varje scenario. De låter AI veta vad som är rätt och vad som inte är det, och låter det sedan lära sig genom försök och misstag.
När AI som tränas genom maskininlärning möter ett hinder, försöker den olika metoder för att övervinna det. Till en början kommer den att göra ett dåligt jobb med att klara utmaningen, men datorn kommer att notera vad som gick fel och vad som kan förbättras. Under loppet av flera iterationer av lärande och försök får den så småningom en god uppfattning om vad det “rätta” svaret är.
Du kan se ett exempel på detta framsteg i videon ovan. Videon visar en AI som lär sig hur man får olika varelser att gå ordentligt. De första generationerna går som om de vore fulla, men de senare behåller sin hållning. Detta beror på att AI lärde sig av tidigare misslyckanden och gjorde ett bättre jobb på de senare modellerna.
Utvecklare av skadlig programvara använder denna kraft av maskininlärning för att ta reda på hur man korrekt attackerar ett system. Om något går fel loggar systemet detta fel och noterar vad de gjorde som orsakade problemet. I framtiden kommer skadlig programvara att anpassa sina attackmönster för bättre resultat.
Hur kan vi försvara oss mot skadlig programvara-driven AI?
Det stora problemet med maskinlärande AI är att de utnyttjar det nuvarande sättet som antivirus fungerar. Ett antivirus gillar att arbeta via enkla regler; om ett program passar en specifik nisch som ett antivirus vet är skadligt, blockerar det det.
AI-driven skadlig programvara kommer dock inte att fungera via hårda och fasta regler. Den kommer ständigt att prosta mot försvaret och försöka hitta en väg igenom. När den väl har tagit sig in kan den utföra sitt jobb utan hinder tills antiviruset får uppdateringar som är specifika för hotet.
Så vad är det bästa sättet att bekämpa denna “smarta” skadlig kod? Ibland behöver du bekämpa eld med eld, och det bästa sättet att göra det är att introducera AI-drivna antivirusprogram. Dessa använder inte statiska regler för att fånga upp skadlig programvara, som våra nuvarande modeller. Istället analyserar de vad ett program gör och stoppar det om det agerar illvilligt, enligt antivirusets åsikt.
En framtid definierad av artificiell intelligens
Grundläggande regler och enkla instruktioner kommer inte att definiera skadliga attacker i framtiden. Istället kommer de att använda maskininlärning för att anpassa och forma sig själva för att motverka den säkerhet de möter. Det kanske inte är lika spännande som hur Hollywood skildrar skadlig AI, men hotet är mycket verkligt.
Om du vill se några mindre skrämmande exempel på artificiell intelligens, kolla dessa AI-drivna webbplatser. Du bör också ta reda på hur banker använder AI för att hjälpa dig bättre.
Bildkredit: sdecoret/Depositphotos
Om författaren
Simon Batt (719 publicerade artiklar)
En kandidatexamen i datavetenskap med en djup passion för allt som rör säkerhet. Efter att ha arbetat för en indiespelsstudio fann han sin passion för att skriva och bestämde sig för att använda sina färdigheter för att skriva om allt som rör teknik.
Mer från Simon Batt
Prenumerera på vårt nyhetsbrev
Gå med i vårt nyhetsbrev för tekniska tips, recensioner, free e-böcker och exklusiva erbjudanden!
Klicka här för att prenumerera
