Datenschutz und KI
KI-Systeme verarbeiten oft große Mengen personenbezogener Daten. Die Grundprinzipien der Datensicherheit und des Datenschutzes sind deshalb besonders wichtig.
Grundprinzipien der Datensicherheit
Die drei Grundprinzipien der Datensicherheit:
- Vertraulichkeit: Daten sind nur für befugte Personen zugänglich.
- Integrität: Daten sind korrekt und unverfälscht.
- Verfügbarkeit: Daten sind zugänglich, wenn sie gebraucht werden.
Grundprinzipien des Datenschutzes
Die fünf Grundprinzipien des Datenschutzes:
- Verbot mit Erlaubnisvorbehalt: Alles ist verboten, außer es ist ausdrücklich erlaubt.
- Datenminimierung: Nur die Daten sammeln, die wirklich nötig sind.
- Zweckbindung: Daten nur für den Zweck verwenden, für den sie erhoben wurden.
- Transparenz: Betroffene müssen wissen, welche Daten wie verwendet werden.
- Erforderlichkeit: Der Eingriff in die Privatsphäre muss verhältnismäßig sein.
KI und Datenschutz im Konflikt
KI-Systeme brauchen viele Daten — je mehr, desto besser. Datenschutz verlangt Datenminimierung. Dieser Konflikt ist zentral beim Einsatz von KI:
| KI-Anforderung | Datenschutz-Prinzip | Konflikt |
|---|---|---|
| Viele Trainingsdaten | Datenminimierung | KI will mehr, Datenschutz will weniger |
| Daten aus vielen Quellen | Zweckbindung | Daten aus Kontext A in Kontext B verwenden |
| Automatische Vorhersagen | Transparenz | Wie das Modell entscheidet, ist oft unklar |
| Personenbezogene Daten | Verbot mit Erlaubnisvorbehalt | Wurde eingewilligt? |
a) Ein Unternehmen möchte Gesichtserkennung im Firmengebäude einsetzen. Welche Datenschutz-Prinzipien sind betroffen? Was muss das Unternehmen beachten?
b) Ein Schul-Chatbot soll Schülerfragen beantworten. Welche Daten fallen an? Wie kann man Datenminimierung umsetzen?
c) Diskutiert: Was sprechen die Prinzipien Zweckbindung und Transparenz dagegen, medizinische Daten, die für das Training eines Diagnosesystems erhoben wurden, anschließend für Werbung zu nutzen?
Tipp
Geh die fünf Datenschutzprinzipien der Reihe nach durch und frage bei jedem: Ist es hier überhaupt berührt? Wenn ja — was müsste getan werden, damit es eingehalten ist?
KI und Datenschutz stehen oft im Konflikt: KI will mehr Daten, Datenschutz will weniger. Die Grundprinzipien — Vertraulichkeit, Integrität, Verfügbarkeit, Verbot mit Erlaubnisvorbehalt, Datenminimierung, Zweckbindung, Transparenz, Erforderlichkeit — sind der Rahmen, in dem KI-Systeme bewertet werden müssen.