Bias

Bias (Verzerrung) bedeutet, dass ein KI-System systematisch bestimmte Gruppen oder Ergebnisse bevorzugt oder benachteiligt, weil die Trainingsdaten nicht repräsentativ sind.

Bias entsteht in den Daten, nicht im Algorithmus. Man unterscheidet unter anderem Auswahl-Bias (eine Gruppe fehlt), Mess-Bias (ein Merkmal wird verzerrt erfasst) und historischen Bias (die Daten bilden vergangene Ungerechtigkeiten korrekt ab und schreiben sie fort).

Ein sensibles Merkmal einfach wegzulassen genügt nicht: Ersatzmerkmale wie Postleitzahl oder Schulname können es ersetzen. Man muss die Ergebnisse getrennt nach Gruppen auswerten.

Nicht zu verwechseln mit dem Bias-Wert eines Neurons.