Bias
Eine systematische Schieflage in Daten, Verfahren oder Urteilen, die bestimmte Gruppen benachteiligt.
Einfach erklärt
Bias bezeichnet eine systematische Verzerrung in Daten, Bewertungen oder Ergebnissen. Bei KI stammt sie oft aus den Trainingsdaten: Was dort selten vorkommt, erkennt das Modell schlechter. Auch die Wahl der Aufgabe und der Bewertungsmaßstäbe kann eine Gruppe bevorzugen.
Sichtbar wird Bias erst, wenn man das System an verschiedenen Fällen prüft, nicht nur am eigenen Standardfall. Betroffene Perspektiven früh einzubeziehen deckt Schieflagen auf, die der Entwicklungsgruppe entgehen.
Beispiel aus dem Alltag
Ein Textmodell beschreibt Führungskräfte fast immer mit männlichen Beispielen und Pflegekräfte fast immer mit weiblichen.
Häufige Fragen
Gibt es dafür belegte Beispiele?
Ja. Die Studie „Gender Shades" von Joy Buolamwini und Timnit Gebru aus dem Jahr 2018 zeigte, dass kommerzielle Gesichtsanalyse bei dunkelhäutigen Frauen deutlich häufiger falsch lag als bei hellhäutigen Männern.
Wie erkennt man Bias in der eigenen Anwendung?
Indem man das System an verschiedenen Fällen prüft, nicht nur am Standardfall, und betroffene Perspektiven früh einbezieht.