{"id":93746,"date":"2022-10-14T15:42:35","date_gmt":"2022-10-14T20:42:35","guid":{"rendered":"https:\/\/blogging-techies.com\/sw\/microsoft-gor-counterfit-ai-security-assessment-tool-oppen-kallkod\/"},"modified":"2022-10-14T15:42:35","modified_gmt":"2022-10-14T20:42:35","slug":"microsoft-gor-counterfit-ai-security-assessment-tool-oppen-kallkod","status":"publish","type":"post","link":"https:\/\/blogging-techies.com\/sw\/microsoft-gor-counterfit-ai-security-assessment-tool-oppen-kallkod\/","title":{"rendered":"Microsoft g\u00f6r Counterfit AI Security Assessment Tool \u00f6ppen k\u00e4llkod"},"content":{"rendered":"
\n

Microsoft har gjort sitt verktyg f\u00f6r AI-s\u00e4kerhetsriskbed\u00f6mning, Counterfit, \u00f6ppen k\u00e4llkod, s\u00e5 att vem som helst kan b\u00f6rja anv\u00e4nda verktyget f\u00f6r free. F\u00f6r n\u00e4rvarande kan organisationer anv\u00e4nda Counterfit f\u00f6r att automatisera s\u00e4kerhetsriskbed\u00f6mningar, vilket s\u00e4kerst\u00e4ller att skyddet de anv\u00e4nder \u00e4r upp till noll.<\/p>\n

Microsoft utvecklade ursprungligen Counterfit som ett internt verktyg som snabbt kunde bed\u00f6ma s\u00e4kerheten f\u00f6r AI och maskininl\u00e4rningssystem. Det b\u00f6rjade livet som en samling skript innan det snabbt f\u00f6rvandlades till en generisk AI-automatisering som en operat\u00f6r kan anv\u00e4nda f\u00f6r att \u201cattackera flera AI-system\u201d samtidigt.<\/p>\n

Microsoft anv\u00e4nder nu regelbundet Counterfit som ett k\u00e4rnverktyg i sin AI red-teamverksamhet. Eftersom Counterfit \u00e4r milj\u00f6-, modell- och dataagnostisk kan verktyget leverera exakt bed\u00f6mning utan impedans.<\/p>\n

Sj\u00e4lva verktyget \u00e4r designat f\u00f6r anv\u00e4ndning av s\u00e4kerhetspersonal. Counterfit anv\u00e4nder liknande arbetsfl\u00f6den som andra popul\u00e4ra red-team-verktyg som Metasploit eller PowerShell Empyre, med omfattande st\u00f6d f\u00f6r skript, f\u00f6rladdade attackalgoritmer, s\u00e5rbarhetsskanning, avancerad loggning och mer, som n\u00e5s via kommandoraden.<\/p>\n

Microsoft har arbetat mycket med s\u00e4kerhetspersonal och stora organisationer f\u00f6r att utveckla Counterfit b\u00e4ttre ocks\u00e5. P\u00e5 Microsoft Security-bloggen sa Matilda Rhode, Senior Cybersecurity Researcher, Airbus:<\/p>\n

AI anv\u00e4nds alltmer inom industrin; det \u00e4r viktigt att se fram\u00e5t f\u00f6r att s\u00e4kra denna teknik, s\u00e4rskilt f\u00f6r att f\u00f6rst\u00e5 var rymdattacker kan genomf\u00f6ras i problemomr\u00e5det. Utgivningen av verktyg med \u00f6ppen k\u00e4llkod fr\u00e5n en organisation som Microsoft f\u00f6r s\u00e4kerhetsut\u00f6vare f\u00f6r att utv\u00e4rdera s\u00e4kerheten f\u00f6r AI-system \u00e4r b\u00e5de v\u00e4lkommet och en tydlig indikation p\u00e5 att branschen tar detta problem p\u00e5 allvar.<\/p>\n

Du kan hitta Microsoft Counterfit med \u00f6ppen k\u00e4llkod p\u00e5 deras officiella GitHub.<\/p>\n

<\/span> Varf\u00f6r \u00e4r Counterfit anv\u00e4ndbart?<\/span><\/h2>\n

\u00c4ven f\u00f6r ett f\u00f6retag av Microsofts storlek \u00e4r det inte l\u00e4tt att genomf\u00f6ra effektiva s\u00e4kerhetsbed\u00f6mningar, s\u00e4rskilt n\u00e4r dessa f\u00f6retag \u00e4r enorma Fortune 500-ledare, regeringar, ideella organisationer och mer. En tidigare Microsoft-studie fann att ett stort antal f\u00f6retag inte kunde testa sina AI-system korrekt.<\/p>\n

Vi fann att 25 av 28 f\u00f6retag angav att de inte har de r\u00e4tta verktygen p\u00e5 plats f\u00f6r att s\u00e4kra sina AI-system och att s\u00e4kerhetspersonal letar efter specifik v\u00e4gledning p\u00e5 detta omr\u00e5de.<\/p>\n

Counterfit g\u00f6r det enklare att slutf\u00f6ra dessa bed\u00f6mningar, vilket automatiserar processen f\u00f6r analys och testning.<\/p>\n

Dessutom, en nyligen publicerad Gartner-studie listade AI-s\u00e4kerhetsantagande som en av de viktigaste s\u00e4kerhets\u00e5tg\u00e4rderna ett f\u00f6retag kan vidta f\u00f6r att f\u00f6rb\u00e4ttra skyddet. Samma studie noterade att \u201cSenast 2024 kommer organisationer som implementerar dedikerade AI-riskhanteringskontroller att framg\u00e5ngsrikt undvika negativa AI-resultat dubbelt s\u00e5 ofta som de som inte g\u00f6r det.\u201d<\/p>\n

Kort sagt, att Counterfit blir ett AI-s\u00e4kerhetsbed\u00f6mningsverktyg med \u00f6ppen k\u00e4llkod borde bidra till att g\u00f6ra v\u00e4rlden till en lite s\u00e4krare plats.<\/p>\n

Om f\u00f6rfattaren<\/strong><\/p>\n

Gavin Phillips (1011 artiklar publicerade)
<\/strong><\/p>\n

Gavin \u00e4r Junior Editor for Technology Explained, en regelbunden bidragsgivare till Really Useful Podcast och en frekvent produktrecensent. Han har en examen i samtida skrivande plundrad fr\u00e5n kullarna i Devon, och mer \u00e4n ett decennium av professionell skrivarerfarenhet. Han tycker om stora m\u00e4ngder te, br\u00e4dspel och fotboll.<\/p>\n

Mer fr\u00e5n Gavin Phillips<\/p>\n

<\/span>Prenumerera p\u00e5 v\u00e5rt nyhetsbrev<\/span><\/h4>\n

G\u00e5 med i v\u00e5rt nyhetsbrev f\u00f6r tekniska tips, recensioner, free e-b\u00f6cker och exklusiva erbjudanden!<\/p>\n

Klicka h\u00e4r f\u00f6r att prenumerera<\/p>\n<\/p><\/div>\n

\n
\n

Table of Contents<\/p>\nToggle<\/span><\/path><\/svg><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n