{"id":842585,"date":"2023-09-10T20:05:09","date_gmt":"2023-09-11T01:05:09","guid":{"rendered":"https:\/\/blogging-techies.com\/ge\/so-entfernen-sie-verzerrungen-aus-ki-modellen\/"},"modified":"2023-09-10T20:05:09","modified_gmt":"2023-09-11T01:05:09","slug":"so-entfernen-sie-verzerrungen-aus-ki-modellen","status":"publish","type":"post","link":"https:\/\/blogging-techies.com\/ge\/so-entfernen-sie-verzerrungen-aus-ki-modellen\/","title":{"rendered":"So entfernen Sie Verzerrungen aus KI-Modellen"},"content":{"rendered":"<p>        Da KI jeden Tag mehr reale Entscheidungen trifft, ist die Kontrolle von Vorurteilen wichtiger denn je.  <\/p>\n<figure id=\"attachment_2064748\" aria-describedby=\"caption-attachment-2064748\" style=\"width: 770px\" class=\"wp-caption aligncenter\"><\/figure>\n<p>Mit zunehmender Verbreitung von KI zieht KI-basierte Diskriminierung die Aufmerksamkeit von politischen Entscheidungstr\u00e4gern und Unternehmensf\u00fchrern auf sich, aber es ist schwieriger, sie von vornherein aus KI-Modellen herauszuhalten, als es scheint.  Laut einem neuen Forrester-Bericht \u201ePut AI \u201eFair\u201c with the Right Approach to Equity\u201c halten sich die meisten Unternehmen grunds\u00e4tzlich an Gerechtigkeit, scheitern jedoch in der Praxis.  <\/p>\n<p>Es gibt viele Gr\u00fcnde f\u00fcr diese Schwierigkeit: <\/p>\n<ul>\n<li>\n<p><strong>\u201eGerechtigkeit\u201c hat mehrere Bedeutungen:<\/strong> \u201eUm festzustellen, ob ein Modell des maschinellen Lernens fair ist oder nicht, muss ein Unternehmen entscheiden, wie es die Fairness quantifiziert und bewertet\u201c, hei\u00dft es in dem Bericht.  \u201eMathematisch gesehen gibt es mindestens 21 verschiedene Methoden, um Gerechtigkeit zu messen.\u201c <\/p>\n<\/li>\n<li>\n<p><strong>Vertraulichkeitsattribute fehlen: <\/strong>\u201eDas wesentliche Paradox der Fairness in der KI ist die Tatsache, dass Unternehmen gesch\u00fctzte Merkmale wie Rasse, sexuelle Orientierung und Veteranenstatus oft nicht in ihren Daten erfassen, weil sie ihre Entscheidungen nicht darauf st\u00fctzen sollten\u201c, hei\u00dft es in dem Bericht. <\/p>\n<\/li>\n<li>\n<p><strong>Das Wort \u201eVoreingenommenheit\u201c bedeutet f\u00fcr verschiedene Gruppen unterschiedliche Bedeutungen:<\/strong> \u201eF\u00fcr einen Datenwissenschaftler liegt eine Verzerrung vor, wenn der von einem Modell angegebene erwartete Wert vom tats\u00e4chlichen Wert in der realen Welt abweicht\u201c, hei\u00dft es in dem Bericht.  \u201eDaher ist es ein Ma\u00df f\u00fcr Pr\u00e4zision.  Die allgemeine Bev\u00f6lkerung verwendet den Begriff \u201eVoreingenommenheit\u201c jedoch f\u00fcr Vorurteile oder das Gegenteil von Fairness.\u201c <\/p>\n<\/li>\n<li>\n<p><strong>Einsatz von Proxys f\u00fcr gesch\u00fctzte Datenkategorien:<\/strong> \u201eDer g\u00e4ngigste Ansatz zur Fairness ist \u201aBewusstlosigkeit\u2018: metaphorisch den Kopf in den Sand stecken, indem gesch\u00fctzte Klassen wie Geschlecht, Alter und Rasse aus Ihrem Trainingsdatensatz ausgeschlossen werden\u201c, hei\u00dft es in dem Bericht.  \u201eAber wie jeder gute Datenwissenschaftler feststellen wird, enthalten die meisten gro\u00dfen Datens\u00e4tze Proxys f\u00fcr diese Variablen, die von Algorithmen f\u00fcr maschinelles Lernen ausgenutzt werden.\u201c <\/p>\n<\/li>\n<\/ul>\n<p><strong>SEHEN: <\/strong><strong>Ethikrichtlinie f\u00fcr k\u00fcnstliche Intelligenz<\/strong><strong>    (TechRepublic Premium)<\/strong> <\/p>\n<p>\u201eLeider gibt es keine M\u00f6glichkeit, das Ausma\u00df dieses Problems zu quantifizieren\u201c, sagte Brandon Purcell, Vizepr\u00e4sident, Hauptanalyst und Co-Autor des Berichts von Forrester, und f\u00fcgte hinzu: \u201e\u2026 es ist wahr, dass wir weit von k\u00fcnstlicher allgemeiner Intelligenz entfernt sind. Aber KI wird heute in gro\u00dfem Umfang eingesetzt, um wichtige Entscheidungen \u00fcber Menschen zu treffen, von Kreditentscheidungen \u00fcber medizinische Diagnosen bis hin zur Strafverurteilung.  \u201eSch\u00e4dliche Voreingenommenheit wirkt sich also direkt auf das Leben und den Lebensunterhalt der Menschen aus.\u201c <\/p>\n<p>Um Voreingenommenheit zu vermeiden, m\u00fcssen dem Bericht zufolge genauigkeitsbasierte Fairnesskriterien und repr\u00e4sentative Fairnesskriterien verwendet werden.  Einzelne Fairnesskriterien sollten auch verwendet werden, um die Fairness bestimmter Vorhersagen stichprobenartig zu \u00fcberpr\u00fcfen, w\u00e4hrend mehrere Fairnesskriterien verwendet werden sollten, um einen vollst\u00e4ndigen \u00dcberblick \u00fcber die Schwachstellen eines Modells zu erhalten. <\/p>\n<p>Um diese Ergebnisse zu erzielen, sollten Modellentwickler repr\u00e4sentativere Trainingsdaten verwenden, in der Modellierungsphase mit kausalen Schlussfolgerungen und kontradiktorischer KI experimentieren und Crowdsourcing nutzen, um Verzerrungen in den Endergebnissen zu erkennen.  Der Bericht empfiehlt, dass Unternehmen f\u00fcr etwaige Fehler, die in ihren Modellen entdeckt werden, ein Kopfgeld zahlen. <\/p>\n<p>\u201eUm sch\u00e4dliche Vorurteile in der KI abzumildern, geht es nicht nur darum, die richtigen Fairnesskriterien f\u00fcr die Bewertung von Modellen auszuw\u00e4hlen\u201c, hei\u00dft es in dem Bericht.  \u201eBest Practices f\u00fcr Gerechtigkeit sollten den gesamten KI-Lebenszyklus durchdringen, vom Beginn des Anwendungsfalls bis hin zum Verst\u00e4ndnis und der Vorbereitung von Daten f\u00fcr die Modellierung, Bereitstellung und laufende \u00dcberwachung.\u201c <\/p>\n<p><strong>SEHEN: <\/strong><strong>Ethikpolitik: Beziehungen zu Lieferanten<\/strong><strong>    (TechRepublic Premium)<\/strong> <\/p>\n<p>Um weniger Voreingenommenheit zu erreichen, empfiehlt der Bericht au\u00dferdem: <\/p>\n<ul>\n<li>Holen Sie Feedback von betroffenen Stakeholdern ein, um die potenziell sch\u00e4dlichen Auswirkungen des KI-Modells zu verstehen.  Dazu k\u00f6nnen Wirtschaftsf\u00fchrer, Anw\u00e4lte, Sicherheits- und Risikospezialisten sowie Aktivisten, gemeinn\u00fctzige Organisationen, Gemeindemitglieder und Verbraucher geh\u00f6ren. <\/li>\n<li>Verwenden Sie bei der Datenvorbereitung umfassendere Bezeichnungen.  Die meisten aktuellen Datens\u00e4tze verf\u00fcgen nur \u00fcber Bezeichnungen f\u00fcr m\u00e4nnlich oder weiblich, wodurch Personen ausgeschlossen werden, die sich als nicht-bin\u00e4r identifizieren.  Um diese inh\u00e4rente Verzerrung von Daten zu \u00fcberwinden, k\u00f6nnten Unternehmen mit Anbietern von Datenanmerkungen zusammenarbeiten, um Daten mit umfassenderen Bezeichnungen zu kennzeichnen, so der Bericht. <\/li>\n<li>Ber\u00fccksichtigen Sie Intersektionalit\u00e4t oder die Art und Weise, wie verschiedene Elemente der Identit\u00e4t einer Person zusammenwirken, um die Auswirkungen von Voreingenommenheit oder Privilegien zu verst\u00e4rken. <\/li>\n<li>Implementierung verschiedener Modelle f\u00fcr verschiedene Gruppen in der Implementierungsphase. <\/li>\n<\/ul>\n<p>Die Beseitigung von Vorurteilen h\u00e4ngt auch von Praktiken und Richtlinien ab.  Daher sollten Organisationen eine F\u00fchrungskraft auf C-Ebene mit der Bew\u00e4ltigung der ethischen Auswirkungen von KI beauftragen.  <\/p>\n<p>\u201eDer Schl\u00fcssel liegt darin, Best Practices \u00fcber den gesamten KI-Lebenszyklus hinweg zu \u00fcbernehmen, von der Konzeption des Anwendungsfalls \u00fcber das Verst\u00e4ndnis, die Modellierung, die Bewertung und Implementierung bis hin zur Daten\u00fcberwachung\u201c, sagte Purcell. <\/p>\n   ","protected":false},"excerpt":{"rendered":"<p>Da KI jeden Tag mehr reale Entscheidungen trifft, ist die Kontrolle von Vorurteilen wichtiger denn je. Mit zunehmender Verbreitung von KI zieht KI-basierte Diskriminierung die Aufmerksamkeit von politischen Entscheidungstr\u00e4gern und Unternehmensf\u00fchrern auf sich, aber es ist schwieriger, sie von vornherein aus KI-Modellen herauszuhalten, als es scheint. Laut einem neuen Forrester-Bericht \u201ePut AI \u201eFair\u201c with the [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":842586,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","fifu_image_url":"https:\/\/blogging-techies.com\/wp-content\/uploads\/2023\/06\/8.jpg","fifu_image_alt":""},"categories":[7],"tags":[],"_links":{"self":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts\/842585"}],"collection":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/comments?post=842585"}],"version-history":[{"count":0,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts\/842585\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/media\/842586"}],"wp:attachment":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/media?parent=842585"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/categories?post=842585"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/tags?post=842585"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}