Microsoft har gjort sitt verktyg för AI-säkerhetsriskbedömning, Counterfit, öppen källkod, så att vem som helst kan börja använda verktyget för free. För närvarande kan organisationer använda Counterfit för att automatisera säkerhetsriskbedömningar, vilket säkerställer att skyddet de använder är upp till noll.
Microsoft utvecklade ursprungligen Counterfit som ett internt verktyg som snabbt kunde bedöma säkerheten för AI och maskininlärningssystem. Det började livet som en samling skript innan det snabbt förvandlades till en generisk AI-automatisering som en operatör kan använda för att “attackera flera AI-system” samtidigt.
Microsoft använder nu regelbundet Counterfit som ett kärnverktyg i sin AI red-teamverksamhet. Eftersom Counterfit är miljö-, modell- och dataagnostisk kan verktyget leverera exakt bedömning utan impedans.
Själva verktyget är designat för användning av säkerhetspersonal. Counterfit använder liknande arbetsflöden som andra populära red-team-verktyg som Metasploit eller PowerShell Empyre, med omfattande stöd för skript, förladdade attackalgoritmer, sårbarhetsskanning, avancerad loggning och mer, som nås via kommandoraden.
Microsoft har arbetat mycket med säkerhetspersonal och stora organisationer för att utveckla Counterfit bättre också. På Microsoft Security-bloggen sa Matilda Rhode, Senior Cybersecurity Researcher, Airbus:
AI används alltmer inom industrin; det är viktigt att se framåt för att säkra denna teknik, särskilt för att förstå var rymdattacker kan genomföras i problemområdet. Utgivningen av verktyg med öppen källkod från en organisation som Microsoft för säkerhetsutövare för att utvärdera säkerheten för AI-system är både välkommet och en tydlig indikation på att branschen tar detta problem på allvar.
Du kan hitta Microsoft Counterfit med öppen källkod på deras officiella GitHub.
Varför är Counterfit användbart?
Även för ett företag av Microsofts storlek är det inte lätt att genomföra effektiva säkerhetsbedömningar, särskilt när dessa företag är enorma Fortune 500-ledare, regeringar, ideella organisationer och mer. En tidigare Microsoft-studie fann att ett stort antal företag inte kunde testa sina AI-system korrekt.
Vi fann att 25 av 28 företag angav att de inte har de rätta verktygen på plats för att säkra sina AI-system och att säkerhetspersonal letar efter specifik vägledning på detta område.
Counterfit gör det enklare att slutföra dessa bedömningar, vilket automatiserar processen för analys och testning.
Dessutom, en nyligen publicerad Gartner-studie listade AI-säkerhetsantagande som en av de viktigaste säkerhetsåtgärderna ett företag kan vidta för att förbättra skyddet. Samma studie noterade att “Senast 2024 kommer organisationer som implementerar dedikerade AI-riskhanteringskontroller att framgångsrikt undvika negativa AI-resultat dubbelt så ofta som de som inte gör det.”
Kort sagt, att Counterfit blir ett AI-säkerhetsbedömningsverktyg med öppen källkod borde bidra till att göra världen till en lite säkrare plats.
Om författaren
Gavin Phillips (1011 artiklar publicerade)
Gavin är Junior Editor for Technology Explained, en regelbunden bidragsgivare till Really Useful Podcast och en frekvent produktrecensent. Han har en examen i samtida skrivande plundrad från kullarna i Devon, och mer än ett decennium av professionell skrivarerfarenhet. Han tycker om stora mängder te, brädspel och fotboll.
Mer från Gavin Phillips
Prenumerera på vårt nyhetsbrev
Gå med i vårt nyhetsbrev för tekniska tips, recensioner, free e-böcker och exklusiva erbjudanden!
Klicka här för att prenumerera
