Bias und Datenqualität
Ein KI-System ist nur so gut wie die Daten, aus denen es lernt. Wenn die Daten verzerrt sind, wird auch das Modell verzerrt. Das nennt man Bias.
Was ist Bias?
Bias (Verzerrung) bedeutet, dass ein KI-System systematisch bestimmte Gruppen oder Ergebnisse bevorzugt oder benachteiligt, weil die Trainingsdaten nicht repräsentativ sind.
Ein Beispiel: Ein Spam-Filter wird nur mit englischen E-Mails trainiert. Wenn er nun eine deutsche E-Mail sieht, stuft er sie möglicherweise als Spam ein — nicht weil sie Spam ist, sondern weil sie „anders" aussieht als das, was er gelernt hat. Das ist Bias durch unrepräsentative Daten.
Arten von Bias
| Art | Ursache | Beispiel |
|---|---|---|
| Auswahl-Bias | Trainingsdaten sind nicht repräsentativ | Spam-Filter nur mit englischen Mails |
| Mess-Bias | Merkmale werden verzerrt gemessen | Kamera erkennt nur helle Gesichter |
| Historischer Bias | Daten spiegeln vergangene Ungerechtigkeiten | Bewerbungs-KI bevorzugt Männer |
| Bestätigungs-Bias | Daten wurden so ausgewählt, dass sie eine Erwartung bestätigen | Nur positive Bewertungen werden gesammelt |
Bias im k-Means-Beispiel
Bevor du das Programm ausführst: Die Daten haben 7 Punkte nahe (10–16, 19–22) und 2 Punkte nahe (50–51, 60–61). Wie werden sich die 2 Cluster aufteilen?
a) Führe das Programm aus. Wie groß sind die Cluster?
b) Ändere k auf 3 und passe die Feldgröße von groessen sowie die Ausgabe an. Wie verteilen sich die 9 Punkte jetzt? Was fällt auf, wenn du die große und die kleine Gruppe vergleichst?
c) Cluster 1 stützt sich auf zwei Datenpunkte. Ein Unternehmen möchte daraus eine Aussage über „diesen Kundentyp" ableiten. Warum ist das heikel?
d) Nenne zwei Maßnahmen, mit denen man dem Problem aus c) begegnen kann.
Tipp 1: zu b)
Du musst an drei Stellen von 2 auf 3 gehen: im Aufruf new KMeans(punkte, 2), bei new int[2] und in den Ausgabezeilen. Am einfachsten schreibst du die Ausgabe als Schleife über alle Cluster.
Tipp 2: zu b)
Zähle nach, wie viele Punkte die große Gruppe (die sieben um (10–16, 19–22)) bekommt und wie viele die kleine (die zwei um (50–51, 60–61)). Bekommt jede Gruppe gleich viele Cluster?
Bias entsteht schon in den Daten, nicht erst im Algorithmus. Wenn die Trainingsdaten eine Gruppe über- oder unterrepräsentieren, wird auch das Modell diese Verzerrung reproduzieren. Gegenmaßnahme: Daten sorgfältig sammeln, auf Repräsentativität prüfen, und Bias bewusst dokumentieren.
Verzerrte Daten im Bild
Sieben Punkte dicht beieinander, zwei Punkte weit weg — dieselben Daten wie im Programm.
a) Lasse k-Means mit k = 2 bis zum Ende laufen. Wie viele Punkte hat jedes Cluster?
b) Stelle k auf 3. Die große Gruppe wird zerlegt, die kleine nicht. Schau dir die Spalte Punkte an: Wie viele Datenpunkte stützen jedes Cluster?
c) Setze mit dem Werkzeug fünf weitere Punkte in die Nähe von (50 | 60), bis beide Gruppen ähnlich groß sind. Lasse k-Means mit k = 3 noch einmal laufen. Was ändert sich?