Gesellschaft und Ethik
Der Einsatz von KI hat Auswirkungen auf die Gesellschaft, die über die technische Qualität hinausgehen. Hier lernst du, diese Auswirkungen zu bewerten.
Auswirkungen des KI-Einsatzes
| Bereich | Positive Auswirkung | Risiko |
|---|---|---|
| Arbeitswelt | Automatisierung von Routineaufgaben | Arbeitsplatzverlust, Umschulung nötig |
| Medizin | Schnellere Diagnose | Fehldiagnose durch Bias, Abhängigkeit von Daten |
| Bildung | Personalisierte Lernangebote | Überwachung, Datenmissbrauch |
| Justiz | Effizientere Fallanalyse | Voreingenommenheit durch historische Daten |
| Information | Schneller Zugang zu Wissen | Desinformation, Deepfakes (gefälschte Bilder, Stimmen und Videos), Halluzinationen |
Ethische Fragen
Ethische Fragen beim KI-Einsatz:
- Verantwortung: Wer ist verantwortlich, wenn ein KI-System einen Fehler macht?
- Fairness: Behandelt das System alle Gruppen gleich?
- Transparenz: Kann man nachvollziehen, wie das Modell entschieden hat?
- Autonomie: Nimmt das System Menschen die Entscheidungsfreiheit?
- Nachvollziehbarkeit: Kann man erklären, warum das Modell zu einem Ergebnis kam?
Die Bewertung eines KI-Systems umfasst nicht nur Trefferquote und Präzision, sondern auch seine gesellschaftlichen Auswirkungen. Ein System, das technisch gut funktioniert, aber unfair oder intransparent ist, ist kein gutes System.
a) Ein autonomes Auto verursacht einen Unfall. Wer ist verantwortlich — der Hersteller, der Fahrer, das KI-System? Diskutiert in der Gruppe.
b) Ein Bewerbungs-KI sortiert Lebensläufe vor. Frauen werden seltener eingeladen, weil die Trainingsdaten aus einer Zeit stammen, in der fast nur Männer eingestellt wurden. Welches ethische Problem liegt vor? Welches Bewertungskriterium aus Kapitel 3?
c) Ein LLM erzeugt einen Text, der wie eine seriöse Nachrichtenmeldung klingt, aber komplett erfunden ist. Welche gesellschaftlichen Folgen hat das? Welche Gegenmaßnahmen gibt es?
Tipp zu b)
Die Trainingsdaten sind nicht falsch gemessen — sie bilden die Vergangenheit korrekt ab. Genau das ist das Problem. Schau in die Tabelle der Bias-Arten aus Lektion 3.2.