Da KI jeden Tag mehr reale Entscheidungen trifft, ist die Kontrolle von Vorurteilen wichtiger denn je.
Mit zunehmender Verbreitung von KI zieht KI-basierte Diskriminierung die Aufmerksamkeit von politischen Entscheidungsträgern und Unternehmensführern auf sich, aber es ist schwieriger, sie von vornherein aus KI-Modellen herauszuhalten, als es scheint. Laut einem neuen Forrester-Bericht „Put AI „Fair“ with the Right Approach to Equity“ halten sich die meisten Unternehmen grundsätzlich an Gerechtigkeit, scheitern jedoch in der Praxis.
Es gibt viele Gründe für diese Schwierigkeit:
-
„Gerechtigkeit“ hat mehrere Bedeutungen: „Um festzustellen, ob ein Modell des maschinellen Lernens fair ist oder nicht, muss ein Unternehmen entscheiden, wie es die Fairness quantifiziert und bewertet“, heißt es in dem Bericht. „Mathematisch gesehen gibt es mindestens 21 verschiedene Methoden, um Gerechtigkeit zu messen.“
-
Vertraulichkeitsattribute fehlen: „Das wesentliche Paradox der Fairness in der KI ist die Tatsache, dass Unternehmen geschützte Merkmale wie Rasse, sexuelle Orientierung und Veteranenstatus oft nicht in ihren Daten erfassen, weil sie ihre Entscheidungen nicht darauf stützen sollten“, heißt es in dem Bericht.
-
Das Wort „Voreingenommenheit“ bedeutet für verschiedene Gruppen unterschiedliche Bedeutungen: „Für einen Datenwissenschaftler liegt eine Verzerrung vor, wenn der von einem Modell angegebene erwartete Wert vom tatsächlichen Wert in der realen Welt abweicht“, heißt es in dem Bericht. „Daher ist es ein Maß für Präzision. Die allgemeine Bevölkerung verwendet den Begriff „Voreingenommenheit“ jedoch für Vorurteile oder das Gegenteil von Fairness.“
-
Einsatz von Proxys für geschützte Datenkategorien: „Der gängigste Ansatz zur Fairness ist ‚Bewusstlosigkeit‘: metaphorisch den Kopf in den Sand stecken, indem geschützte Klassen wie Geschlecht, Alter und Rasse aus Ihrem Trainingsdatensatz ausgeschlossen werden“, heißt es in dem Bericht. „Aber wie jeder gute Datenwissenschaftler feststellen wird, enthalten die meisten großen Datensätze Proxys für diese Variablen, die von Algorithmen für maschinelles Lernen ausgenutzt werden.“
SEHEN: Ethikrichtlinie für künstliche Intelligenz (TechRepublic Premium)
„Leider gibt es keine Möglichkeit, das Ausmaß dieses Problems zu quantifizieren“, sagte Brandon Purcell, Vizepräsident, Hauptanalyst und Co-Autor des Berichts von Forrester, und fügte hinzu: „… es ist wahr, dass wir weit von künstlicher allgemeiner Intelligenz entfernt sind. Aber KI wird heute in großem Umfang eingesetzt, um wichtige Entscheidungen über Menschen zu treffen, von Kreditentscheidungen über medizinische Diagnosen bis hin zur Strafverurteilung. „Schädliche Voreingenommenheit wirkt sich also direkt auf das Leben und den Lebensunterhalt der Menschen aus.“
Um Voreingenommenheit zu vermeiden, müssen dem Bericht zufolge genauigkeitsbasierte Fairnesskriterien und repräsentative Fairnesskriterien verwendet werden. Einzelne Fairnesskriterien sollten auch verwendet werden, um die Fairness bestimmter Vorhersagen stichprobenartig zu überprüfen, während mehrere Fairnesskriterien verwendet werden sollten, um einen vollständigen Überblick über die Schwachstellen eines Modells zu erhalten.
Um diese Ergebnisse zu erzielen, sollten Modellentwickler repräsentativere Trainingsdaten verwenden, in der Modellierungsphase mit kausalen Schlussfolgerungen und kontradiktorischer KI experimentieren und Crowdsourcing nutzen, um Verzerrungen in den Endergebnissen zu erkennen. Der Bericht empfiehlt, dass Unternehmen für etwaige Fehler, die in ihren Modellen entdeckt werden, ein Kopfgeld zahlen.
„Um schädliche Vorurteile in der KI abzumildern, geht es nicht nur darum, die richtigen Fairnesskriterien für die Bewertung von Modellen auszuwählen“, heißt es in dem Bericht. „Best Practices für Gerechtigkeit sollten den gesamten KI-Lebenszyklus durchdringen, vom Beginn des Anwendungsfalls bis hin zum Verständnis und der Vorbereitung von Daten für die Modellierung, Bereitstellung und laufende Überwachung.“
SEHEN: Ethikpolitik: Beziehungen zu Lieferanten (TechRepublic Premium)
Um weniger Voreingenommenheit zu erreichen, empfiehlt der Bericht außerdem:
- Holen Sie Feedback von betroffenen Stakeholdern ein, um die potenziell schädlichen Auswirkungen des KI-Modells zu verstehen. Dazu können Wirtschaftsführer, Anwälte, Sicherheits- und Risikospezialisten sowie Aktivisten, gemeinnützige Organisationen, Gemeindemitglieder und Verbraucher gehören.
- Verwenden Sie bei der Datenvorbereitung umfassendere Bezeichnungen. Die meisten aktuellen Datensätze verfügen nur über Bezeichnungen für männlich oder weiblich, wodurch Personen ausgeschlossen werden, die sich als nicht-binär identifizieren. Um diese inhärente Verzerrung von Daten zu überwinden, könnten Unternehmen mit Anbietern von Datenanmerkungen zusammenarbeiten, um Daten mit umfassenderen Bezeichnungen zu kennzeichnen, so der Bericht.
- Berücksichtigen Sie Intersektionalität oder die Art und Weise, wie verschiedene Elemente der Identität einer Person zusammenwirken, um die Auswirkungen von Voreingenommenheit oder Privilegien zu verstärken.
- Implementierung verschiedener Modelle für verschiedene Gruppen in der Implementierungsphase.
Die Beseitigung von Vorurteilen hängt auch von Praktiken und Richtlinien ab. Daher sollten Organisationen eine Führungskraft auf C-Ebene mit der Bewältigung der ethischen Auswirkungen von KI beauftragen.
„Der Schlüssel liegt darin, Best Practices über den gesamten KI-Lebenszyklus hinweg zu übernehmen, von der Konzeption des Anwendungsfalls über das Verständnis, die Modellierung, die Bewertung und Implementierung bis hin zur Datenüberwachung“, sagte Purcell.
