Datenschutz bei KI-Einsatz: was DSGVO-konform geht – und was nicht
Zwischen »KI ist verboten« und »wir laden einfach alles hoch« liegt der praktikable Weg. Welche Pflichten tatsächlich gelten und wie man sie erfüllt.
Sobald personenbezogene Daten in ein Sprachmodell gehen, gilt die Datenschutz-Grundverordnung wie bei jeder anderen Verarbeitung auch. Es gibt kein KI-Sonderrecht, das die Anforderungen lockert – aber auch kein pauschales Verbot. Die Fragen sind dieselben wie immer, nur werden sie oft nicht gestellt.
Die fünf Fragen, die vorher zu klären sind
- 1Rechtsgrundlage: Auf welchen Tatbestand nach Art. 6 DSGVO stützt sich die Verarbeitung? Meist berechtigtes Interesse oder Vertragserfüllung, bei Beschäftigtendaten zusätzlich § 26 BDSG.
- 2Auftragsverarbeitung: Liegt mit dem Modellanbieter ein Vertrag nach Art. 28 DSGVO vor? Ohne diesen Vertrag ist die Nutzung für personenbezogene Daten nicht zulässig.
- 3Ort der Verarbeitung: Werden Daten in ein Drittland übermittelt? Dann braucht es eine Grundlage nach Kapitel V DSGVO, etwa Standardvertragsklauseln oder einen Angemessenheitsbeschluss.
- 4Training: Nutzt der Anbieter die Eingaben zum Training? Für geschäftliche Nutzung muss das vertraglich ausgeschlossen sein.
- 5Verzeichnis und Folgenabschätzung: Die Verarbeitung gehört in das Verzeichnis nach Art. 30 DSGVO; bei hohem Risiko ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich.
Was in der Praxis gut funktioniert
| Vorgehen | Bewertung |
|---|---|
| Verarbeitung in der EU mit Auftragsverarbeitungsvertrag und ausgeschlossenem Training | Der unkomplizierteste Weg für die meisten Anwendungsfälle |
| Pseudonymisierung vor der Übergabe: Namen, Adressen und Kennnummern ersetzen | Senkt das Risiko deutlich, erfordert saubere Rückzuordnung |
| Nur die Felder übergeben, die für die Aufgabe nötig sind | Datenminimierung nach Art. 5 DSGVO, reduziert nebenbei die Kosten |
| Modell im eigenen Netz betreiben | Höchste Kontrolle, deutlich höherer Betriebsaufwand |
Betroffenenrechte mitdenken
Auskunft, Berichtigung und Löschung gelten auch für Daten, die durch ein Modell gelaufen sind. Praktisch bedeutet das: Protokolle von Anfragen und Antworten sind selbst personenbezogene Daten. Sie brauchen eine Löschfrist, ein Zugriffskonzept und dürfen nicht unbegrenzt zur Fehlersuche aufbewahrt werden.
Transparenz gegenüber Nutzern
- In der Datenschutzerklärung benennen, dass und wofür KI-Systeme eingesetzt werden.
- Im Produkt kennzeichnen, welche Inhalte maschinell erzeugt oder vorgeschlagen wurden.
- Beschäftigte informieren und, wo eine Mitbestimmung besteht, den Betriebsrat einbeziehen.
Hinzu kommt die europäische KI-Verordnung, die je nach Risikoklasse zusätzliche Pflichten mit sich bringt und in Stufen anwendbar wird. Für typische Büroautomatisierung mit geringem Risiko bleiben die Anforderungen überschaubar, für Anwendungen im Personalwesen oder in der Kreditvergabe nicht. Diese Einordnung gehört an den Anfang eines Projekts, nicht ans Ende.
Häufige Fragen
Klingt nach Ihrem Thema?
Wir bauen und betreiben Software für Branchen, die von großen Anbietern übersehen werden – und prüfen sie selbst auf Sicherheit. Schildern Sie uns Ihre Ausgangslage.
Projekt besprechenPassend dazu
KI-Automatisierung im Mittelstand: die fünf Prozesse, die sich zuerst lohnen
Nicht die spektakulärsten Anwendungsfälle rechnen sich, sondern die langweiligen mit hoher Wiederholung. Fünf Prozesse, die im Mittelstand fast immer tragen.
LLM-Kosten realistisch kalkulieren
Der Preis pro Anfrage ist selten das Problem. Teuer wird es durch Kontextlänge, Wiederholungen und Fehlversuche. Eine Rechnung, die vor der Rechnung kommt.