KI DSGVO-konform einsetzen: Checkliste für Unternehmen

Ein KI-Assistent, der Handbücher, Verträge und Kundenakten liest, verarbeitet fast immer personenbezogene Daten: Namen von Ansprechpartnern, Mitarbeitenden und Kunden. Damit gilt die Datenschutz-Grundverordnung (DSGVO) in vollem Umfang. Das KI-Tool ändert daran nichts. Es ändert nur, wie viele Daten auf einmal an einer Stelle gelesen werden und wer sie dabei zu sehen bekommt.

Dieser Beitrag richtet sich an Geschäftsführung, Rechtsabteilung, Personal und Compliance im Mittelstand. Er nennt die Fragen, die vor jedem Tool beantwortet sein müssen, fasst sie in einer Checkliste mit zehn Punkten zusammen und vergleicht drei Betriebsformen.

Warum das KI-Tool an der Rechtslage nichts ändert

Die DSGVO knüpft an die Verarbeitung personenbezogener Daten an, nicht an die Technik. Ob ein Mensch ein Dokument öffnet oder ein Sprachmodell es liest: Die Verarbeitung braucht einen Zweck, eine Rechtsgrundlage und ein angemessenes Schutzniveau. Neu ist bei KI vor allem, dass Dokumente aus vielen Quellen in einem Index zusammenkommen, dass ein externer Anbieter sie oft lesen kann und dass die Ausgabe des Modells selbst wieder personenbezogene Daten enthalten kann.

Welche Fragen sind vor jedem KI-Tool zu klären?

Zweck und Rechtsgrundlage (Art. 6 DSGVO)

Jede Verarbeitung braucht einen bestimmten Zweck und eine Rechtsgrundlage nach Art. 6 DSGVO. Bei Mitarbeitenden und Kunden ist das in der Regel die Vertragserfüllung oder das berechtigte Interesse, das gegen die Interessen der Betroffenen abgewogen und dokumentiert werden muss. „Wir wollen KI ausprobieren“ ist kein Zweck. „Fragen zu internen Richtlinien aus den freigegebenen Handbüchern beantworten“ ist einer.

Datenminimierung

Verarbeitet werden nur die Daten, die für den Zweck nötig sind (Art. 5 Abs. 1 lit. c DSGVO). Für ein KI-Tool heißt das: nur die Sammlungen anbinden, die der Zweck verlangt, und personenbezogene Angaben pseudonymisieren oder entfernen, wo die Aufgabe das zulässt. Ein Assistent für Verfahrensanweisungen braucht keine Personalakten.

Wo werden die Daten verarbeitet, und von wem?

Fragen Sie den Anbieter nach dem Ort jedes Verarbeitungsschritts: Speicherung, Index, Modellaufruf, Protokolle, Backups, Support. Lassen Sie sich die Liste der Unterauftragsverarbeiter geben, mit Sitz und Verarbeitungsort.

Ist der Anbieter Auftragsverarbeiter? Dann ist ein AV-Vertrag Pflicht

Verarbeitet ein Anbieter personenbezogene Daten in Ihrem Auftrag, ist er Auftragsverarbeiter. Dann schreibt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AV-Vertrag) mit festgelegtem Inhalt vor: Gegenstand, Dauer und Zweck, Datenkategorien, Weisungsbindung, Vertraulichkeit, Sicherheitsmaßnahmen, Unterauftragsverarbeiter, Löschung am Ende, Nachweise und Prüfrechte. Die EU-Kommission stellt dafür Standardvertragsklauseln bereit (Durchführungsbeschluss (EU) 2021/915). Ein Tool, dessen Anbieter keinen AV-Vertrag anbietet, scheidet für personenbezogene Daten aus.

Übermittlung in Länder außerhalb der EU

Werden Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet, gilt Kapitel V der DSGVO (Art. 44 ff.). Erlaubt ist die Übermittlung, wenn die EU-Kommission dem Land ein angemessenes Schutzniveau bescheinigt hat (Angemessenheitsbeschluss) oder wenn Standardvertragsklauseln (Durchführungsbeschluss (EU) 2021/914) vereinbart sind, ergänzt um eine dokumentierte Prüfung, ob das Recht im Zielland die Klauseln aushebelt. Für die USA gibt es seit Juli 2023 das EU-US Data Privacy Framework für zertifizierte US-Unternehmen. Es wurde gerichtlich angegriffen; prüfen Sie den Stand zum Zeitpunkt Ihrer Entscheidung. Ein Rechenzentrum in Frankfurt hilft nicht, wenn Support oder Modellaufruf aus den USA erfolgen.

Ist das Training mit Ihren Daten vertraglich ausgeschlossen?

Viele KI-Dienste behalten sich in Verbrauchertarifen vor, Eingaben zur Verbesserung ihrer Modelle zu nutzen. Der Ausschluss muss im Vertrag stehen, nicht nur in einer Einstellung, die jemand zurücksetzen kann. Lassen Sie sich außerdem zusichern, wie lange Eingaben und Ausgaben beim Anbieter gespeichert bleiben, etwa für Missbrauchskontrollen.

Speicherdauer und Löschung

Der Index, die Protokolle der Fragen und Antworten, Zwischenspeicher und Backups enthalten Kopien Ihrer Dokumente. Legen Sie fest, wann jede Kopie gelöscht wird und wer die Löschung schriftlich bestätigt. Eine Person, die ihr Recht auf Löschung nach Art. 17 DSGVO ausübt, muss auch aus dem Index verschwinden.

Wann ist eine Datenschutz-Folgenabschätzung nötig? (Art. 35 DSGVO)

Eine Datenschutz-Folgenabschätzung (DSFA) ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen birgt. Bei KI ist das etwa der Fall, wenn Mitarbeitende systematisch bewertet werden, wenn besondere Kategorien nach Art. 9 DSGVO wie Gesundheitsdaten in großem Umfang verarbeitet werden oder wenn eine neue Technik viele Datenquellen zusammenführt. Die deutschen Aufsichtsbehörden veröffentlichen eine Liste von Verarbeitungen, für die eine DSFA stets erforderlich ist. Ein Wissensassistent für Verfahrensanweisungen braucht in der Regel keine DSFA; ein Assistent, der Personalakten auswertet, sehr wahrscheinlich schon.

Datenschutzbeauftragte und Betriebsrat einbinden

In Deutschland ist eine Datenschutzbeauftragte oder ein Datenschutzbeauftragter zu benennen, sobald in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind (§ 38 BDSG). Verarbeitet das Tool Daten von Beschäftigten, hat der Betriebsrat ein Mitbestimmungsrecht, wenn das System geeignet ist, Verhalten oder Leistung zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG). Auf eine Überwachungsabsicht kommt es nicht an; die Eignung genügt. Seit 2021 nennt das Betriebsverfassungsgesetz Künstliche Intelligenz ausdrücklich bei den Unterrichtungs- und Beratungsrechten (§ 90 BetrVG).

Transparenz gegenüber Betroffenen (Art. 13 und 14 DSGVO)

Mitarbeitende, Kunden und Bewerber müssen wissen, dass ihre Daten mit einem KI-System verarbeitet werden, zu welchem Zweck und durch welchen Anbieter. Die Datenschutzhinweise für Beschäftigte und Kunden sind entsprechend zu ergänzen. Das gilt auch, wenn die Daten nicht direkt bei der Person erhoben wurden (Art. 14 DSGVO).

Zugriffsrechte müssen weiter gelten

Ein KI-Assistent darf einer Person kein Dokument zeigen, das sie ohne den Assistenten nicht öffnen könnte. Das klingt selbstverständlich, ist aber der häufigste Fehler: Alle Dokumente kommen in einen Index, und die Berechtigungen des Dateisystems sind weg. Die Prüfung muss stattfinden, bevor das Modell liest, nicht danach in der Antwort. Und die Absage „nicht gefunden“ darf sich nicht von „nicht erlaubt“ unterscheiden, sonst verrät sie, dass ein Dokument existiert.

Checkliste: zehn Punkte vor dem ersten Dokument

1. Zweck schriftlich festgelegt, Rechtsgrundlage nach Art. 6 DSGVO benannt und bei berechtigtem Interesse die Abwägung dokumentiert.
2. Nur die Datenquellen angebunden, die der Zweck verlangt; personenbezogene Angaben pseudonymisiert, wo möglich.
3. Für jeden Verarbeitungsschritt bekannt, wo und bei wem er stattfindet; Liste der Unterauftragsverarbeiter liegt vor.
4. AV-Vertrag nach Art. 28 DSGVO geschlossen, mit Anlagen zu Daten, Betroffenen und technischen und organisatorischen Maßnahmen.
5. Bei Verarbeitung außerhalb des EWR: Angemessenheitsbeschluss oder Standardvertragsklauseln samt Prüfung; Stand zum Entscheidungszeitpunkt festgehalten.
6. Training mit Ihren Daten und Nutzung zu eigenen Zwecken des Anbieters vertraglich ausgeschlossen; Speicherdauer von Eingaben und Ausgaben beim Anbieter bekannt.
7. Löschfristen für Index, Protokolle, Zwischenspeicher und Backups festgelegt; Löschung wird schriftlich bestätigt.
8. Geprüft und dokumentiert, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist; falls ja, durchgeführt.
9. Datenschutzbeauftragte und, bei Beschäftigtendaten, Betriebsrat vor der Entscheidung eingebunden; Datenschutzhinweise nach Art. 13 und 14 DSGVO ergänzt.
10. Zugriffsrechte werden geprüft, bevor das Modell liest; Protokoll von Fragen, Zugriffen und Aktionen vorhanden und für Datenschutzbeauftragte lesbar.

Drei Betriebsformen im Vergleich

Wie viele Punkte der Liste sich erfüllen lassen, hängt davon ab, wo das Tool läuft und unter welchem Vertrag. Drei typische Formen:

Wie Sovern das umsetzt

Sovern Ask, unser Wissensassistent, befindet sich im Pilotstadium. Die Grundsätze stehen fest: Das System läuft auf Ihren Servern oder auf Servern, die Sovern in Deutschland betreibt. Das Modell wählen Sie: Claude, Azure OpenAI oder ein offenes Modell auf eigener Hardware; ein Cloud-Modell wird nur mit Ihrer schriftlichen Freigabe angebunden. Berechtigungen werden geprüft, bevor ein Modell eine Textstelle liest; was eine Person nicht öffnen dürfte, wird nicht durchsucht. Jede Antwort nennt die Seite und das Zitat, auf dem sie beruht. Ihre Daten werden nicht zum Training von Modellen verwendet, weder von Sovern noch, nach deren vertraglichen Zusagen, von den Modellanbietern. Einen AV-Vertrag bieten wir in jedem Fall an, auch wenn das System ausschließlich bei Ihnen läuft.

Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung. Vor einer Entscheidung sind mit Ihrer Datenschutzbeauftragten, Ihrem Datenschutzbeauftragten oder einer Rechtsberatung zu prüfen: die genannten Artikel der DSGVO und ihre Anwendung auf Ihren Fall, der aktuelle Stand des EU-US Data Privacy Framework, die Listen der Aufsichtsbehörden zur Datenschutz-Folgenabschätzung, die Schwelle für die Benennung nach § 38 BDSG und die Mitbestimmungsrechte des Betriebsrats nach §§ 87 und 90 BetrVG.