Inhalt
  1. KI DSGVO-konform einsetzen: Worum es eigentlich geht
  2. Schritt 1: Datenkategorien und Zweck festlegen
  3. Schritt 2: Rechtsgrundlage, AV-Vertrag und Drittland
  4. Schritt 3: Tarif, Training und Einstellungen prüfen
  5. Schritt 4: Datenminimierung, Pseudonymisierung und Löschkonzept
  6. Schritt 5: DSFA, Transparenz und Datenschutzbeauftragter
  7. Die Checkliste im Überblick
  8. Fazit
  9. Häufige Fragen

Das Wichtigste in Kürze

  • KI DSGVO-konform einzusetzen heißt vor allem zu wissen, welche personenbezogenen Daten in welches Tool fließen, zu welchem Zweck, auf welcher Rechtsgrundlage und wohin.
  • Für Cloud-KI-Dienste brauchst du in der Regel einen Vertrag zur Auftragsverarbeitung und bei Verarbeitung außerhalb der EU eine tragfähige Grundlage für die Drittlandübermittlung.
  • Business-Tarife sind für Firmendaten meist die bessere Wahl, weil viele Anbieter Eingaben dort nach eigenen Angaben nicht zum Training nutzen; prüfen musst du das trotzdem in den Vertragsbedingungen.
  • Mit Datenminimierung, einem Löschkonzept und der frühen Einbindung deines Datenschutzbeauftragten lassen sich die meisten KI-Anwendungsfälle sauber umsetzen.

KI DSGVO-konform einsetzen: Worum es eigentlich geht

Die DSGVO kennt keine Sonderregeln für KI. Es gelten dieselben Grundsätze wie für jede andere Verarbeitung personenbezogener Daten: Zweckbindung, Rechtsgrundlage, Datenminimierung, Transparenz, Sicherheit und Speicherbegrenzung. Neu ist bei KI vor allem, wie leicht personenbezogene Daten unbemerkt in ein Tool gelangen.

Ein paar Beispiele aus dem Alltag: Jemand kopiert eine Kunden-E-Mail mit Signatur in einen Chat-Assistenten, um eine Antwort zu entwerfen. Das Videokonferenz-Tool transkribiert ein Bewerbungsgespräch. Ein Wissensassistent durchsucht Laufwerke, auf denen auch Personalunterlagen liegen. In allen drei Fällen werden personenbezogene Daten verarbeitet, oft ohne dass es jemandem bewusst ist.

Die gute Nachricht: Wenn kein Personenbezug im Spiel ist, etwa beim Umformulieren eines Produkttextes, spielt die DSGVO kaum eine Rolle. Und wenn doch, lässt sich der Einsatz mit einer überschaubaren Zahl an Prüfpunkten sauber aufsetzen. Die gehe ich hier durch. Der Artikel ersetzt keine Rechtsberatung, hilft dir aber, die richtigen Fragen zu stellen und mit deinem Datenschutzbeauftragten auf Augenhöhe zu sprechen.

Schritt 1: Datenkategorien und Zweck festlegen

Bevor du über Tools und Verträge sprichst, kläre zwei Fragen: Welche Daten fließen in die KI? Und wofür?

Bei den Daten unterscheide ich vier Stufen:

  • Keine personenbezogenen Daten, etwa allgemeine Texte oder anonyme Statistiken.
  • Gewöhnliche personenbezogene Daten wie Namen, Kontaktdaten, Korrespondenz oder Gesprächsnotizen.
  • Besondere Kategorien nach Art. 9 DSGVO, zum Beispiel Gesundheitsdaten, religiöse Überzeugungen oder Gewerkschaftszugehörigkeit. Für sie gelten deutlich strengere Regeln.
  • Beschäftigtendaten, bei denen besondere Vorsicht gilt und oft der Betriebsrat mitredet.

Beim Zweck geht es um eine klare Beschreibung. „Eingehende Kundenanfragen werden nach Thema sortiert und mit einem Antwortentwurf versehen“ ist ein Zweck. „Wir nutzen KI“ ist keiner. Der Zweck bestimmt, welche Daten nötig sind und welche Rechtsgrundlage passt. Halte ihn im Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO fest, das du in aller Regel ohnehin führen musst.

Schritt 2: Rechtsgrundlage, AV-Vertrag und Drittland

Rechtsgrundlage

Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für KI im Geschäftsalltag kommen meist zwei infrage: die Erfüllung eines Vertrags, etwa wenn du eine Kundenanfrage bearbeitest, oder das berechtigte Interesse, etwa an einer effizienten Bearbeitung. Das berechtigte Interesse erfordert eine dokumentierte Abwägung mit den Interessen der Betroffenen. Eine Einwilligung ist im Kundenkontakt selten praktikabel, weil sie freiwillig und jederzeit widerrufbar sein muss. Bei besonderen Kategorien und bei Beschäftigtendaten wird es anspruchsvoller. Dort gehört der Datenschutzbeauftragte von Anfang an dazu.

Vertrag zur Auftragsverarbeitung

Verarbeitet ein KI-Anbieter personenbezogene Daten in deinem Auftrag, brauchst du in der Regel einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, kurz AV-Vertrag. Die meisten Anbieter von Business-Tarifen stellen einen Standardvertrag bereit. Oft muss er aber aktiv abgeschlossen oder in der Admin-Konsole akzeptiert werden. Prüfe außerdem die Liste der Unterauftragnehmer, also der Dienstleister, die der Anbieter selbst einsetzt. Für kostenlose oder private Versionen gibt es meist keinen AV-Vertrag. Schon deshalb sind sie für Kundendaten ungeeignet.

Serverstandort und Drittlandübermittlung

Werden Daten außerhalb der EU und des Europäischen Wirtschaftsraums verarbeitet, liegt eine Drittlandübermittlung vor. Dafür brauchst du eine zusätzliche Grundlage. Für US-Anbieter, die nach dem EU-US Data Privacy Framework zertifiziert sind, gibt es derzeit einen Angemessenheitsbeschluss der EU-Kommission. Ob ein Anbieter zertifiziert ist, lässt sich in einer öffentlichen Liste prüfen. Andernfalls kommen meist Standardvertragsklauseln zum Einsatz, ergänzt um eine Bewertung der Risiken im Zielland.

Viele Anbieter bieten inzwischen eine Datenverarbeitung in der EU an. Das vereinfacht vieles. Beachte aber, dass auch Support-Zugriffe und Unterauftragnehmer aus Drittländern eine Übermittlung darstellen können. Weil sich die Rechtslage in diesem Bereich schon mehrfach geändert hat, solltest du den aktuellen Stand regelmäßig prüfen.

Schritt 3: Tarif, Training und Einstellungen prüfen

Zwischen der kostenlosen Version eines KI-Tools und dem Business-Tarif liegen für den Datenschutz oft Welten. Bei Verbraucherversionen behalten sich viele Anbieter vor, Eingaben zur Verbesserung ihrer Modelle zu nutzen, solange du das nicht abschaltest. In Business- und Enterprise-Tarifen sagen die großen Anbieter in der Regel zu, Eingaben nicht für das Training zu verwenden. Verlass dich dabei nicht auf Marketingseiten, sondern prüfe die Vertragsbedingungen und die Einstellungen in der Admin-Konsole.

Diese Punkte schaue ich mir bei jedem Tool an:

  • Werden Eingaben und Dateien für das Training genutzt, und lässt sich das vertraglich ausschließen?
  • Wie lange speichert der Anbieter Chatverläufe, hochgeladene Dateien und Protokolle? Manche Anbieter bewahren Eingaben zur Missbrauchserkennung eine Zeit lang auf, auch wenn das Training ausgeschlossen ist.
  • Können Administratoren Verläufe löschen, Aufbewahrungsfristen einstellen und Funktionen gezielt abschalten?
  • Gibt es Single Sign-on, Zwei-Faktor-Authentifizierung und eine Rechteverwaltung?
  • Welche Verbindungen zu anderen Systemen bietet das Tool, etwa zu E-Mail, Kalender oder Laufwerken, und welche davon sind standardmäßig aktiv?

Der letzte Punkt wird oft unterschätzt. Ein KI-Assistent mit Zugriff auf eure Laufwerke findet alles, was der jeweilige Nutzer sehen darf. Sind die Berechtigungen über Jahre gewachsen, findet er auch die Gehaltsliste im falsch freigegebenen Ordner. Bevor du so einen Assistenten einführst, lohnt sich ein Blick auf die Zugriffsrechte.

Schritt 4: Datenminimierung, Pseudonymisierung und Löschkonzept

Der wirksamste Datenschutz ist, Daten gar nicht erst an die KI zu geben. Für viele Aufgaben braucht die KI keine Namen, Adressen oder Kundennummern. Ein Antwortentwurf auf eine Reklamation wird nicht schlechter, wenn statt „Frau Müller aus Potsdam“ einfach „die Kundin“ im Text steht.

Bei der Pseudonymisierung werden identifizierende Merkmale durch Platzhalter ersetzt. Das senkt das Risiko deutlich. Wichtig zu wissen: Pseudonymisierte Daten bleiben personenbezogene Daten, solange sich der Bezug wiederherstellen lässt. Echte Anonymisierung ist schwieriger, als viele denken, gerade bei Freitext. In automatisierten Abläufen kann ein vorgeschalteter Schritt Namen, IBAN oder Telefonnummern entfernen, bevor der Text an das KI-Modell geht.

Zum Löschkonzept gehören bei KI mehr Orte, als man auf den ersten Blick denkt: Chatverläufe, hochgeladene Dateien, Transkripte, Protokolle der Automatisierung und die KI-Ergebnisse, die etwa im CRM gespeichert werden. Lege für jeden Ort eine Frist fest und richte, wo möglich, eine automatische Löschung ein. Wie das für Kundendaten im CRM aussieht, beschreibe ich im Artikel CRM DSGVO-konform betreiben.

Ein typisches Szenario: Eine mittelständische Hausverwaltung möchte eingehende Mieteranfragen per KI vorsortieren. Die Anfragen enthalten Namen, Adressen, Bankverbindungen und manchmal sehr persönliche Schilderungen. Ein sauberes Setup sieht dann etwa so aus: ein Anbieter mit EU-Datenverarbeitung und AV-Vertrag, ein vorgeschalteter Schritt, der Bankverbindungen und Telefonnummern vor der Übergabe automatisch entfernt, und Protokolle der Automatisierung, die nach kurzer Frist gelöscht werden. Der Datenschutzbeauftragte prüft vorab und dokumentiert, ob eine Datenschutz-Folgenabschätzung nötig ist, und die Datenschutzhinweise werden ergänzt. Wie so eine Vorsortierung technisch funktioniert, zeige ich im Artikel zur KI-gestützten Vorsortierung im Postfach.

Praxis-Tipp: Gib deinem Team eine einfache Regel mit: erst Namen, Nummern und Adressen ersetzen, dann einfügen. Diese eine Gewohnheit verhindert viele Datenschutzprobleme mit Chat-Assistenten, bevor sie entstehen.

Schritt 5: DSFA, Transparenz und Datenschutzbeauftragter

Datenschutz-Folgenabschätzung

Eine Datenschutz-Folgenabschätzung, kurz DSFA, ist nach Art. 35 DSGVO nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Bei KI kann das etwa der Fall sein, wenn persönliche Aspekte von Menschen systematisch bewertet werden, zum Beispiel bei der Vorauswahl von Bewerbungen, wenn umfangreich besondere Kategorien verarbeitet werden oder wenn Beschäftigte systematisch überwacht werden. Die deutschen Aufsichtsbehörden führen zudem eine Liste von Verarbeitungen, für die eine DSFA immer erforderlich ist. Darin tauchen auch bestimmte KI-Einsätze auf. Für einfache Anwendungen wie Textentwürfe ohne Personenbezug ist eine DSFA dagegen meist nicht nötig. Dokumentiere aber kurz, wie du zu diesem Ergebnis kommst.

Eng damit verbunden ist Art. 22 DSGVO: Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ausschließlich automatisiert getroffen werden, sind nur in engen Ausnahmen zulässig. Lass deshalb bei solchen Entscheidungen immer einen Menschen prüfen und entscheiden.

Information der Betroffenen

Nach Art. 13 und 14 DSGVO müssen Betroffene erfahren, wie ihre Daten verarbeitet werden. Wenn du einen KI-Dienst als neuen Empfänger einsetzt oder Daten in ein Drittland übermittelst, gehört das in deine Datenschutzhinweise, für Kunden ebenso wie für Beschäftigte. Für bestimmte Fälle, etwa wenn Menschen mit einem Chatbot kommunizieren, kommen Transparenzpflichten aus der EU-KI-Verordnung hinzu, die stufenweise gelten. Prüfe dafür den aktuellen Stand.

Rolle des Datenschutzbeauftragten

In Deutschland brauchst du einen Datenschutzbeauftragten, wenn in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind, und in einigen weiteren Fällen, etwa wenn eine DSFA erforderlich ist. Hast du einen, gehört er von Anfang an ins KI-Projekt und nicht erst kurz vor dem Start. Er prüft Rechtsgrundlage, Verträge und die Notwendigkeit einer DSFA und hilft bei den Datenschutzhinweisen. Wichtig dabei: Er berät und kontrolliert, die Verantwortung bleibt aber beim Unternehmen und damit bei dir als Geschäftsführung, ob mit oder ohne Datenschutzbeauftragten.

Die Checkliste im Überblick

Diese Tabelle kannst du für jeden KI-Anwendungsfall durchgehen. Ein Häkchen in jeder Zeile heißt nicht, dass alles rechtlich abgesichert ist. Es heißt aber, dass du die wesentlichen Fragen gestellt hast.

PrüfpunktLeitfrage
DatenkategorienWelche personenbezogenen Daten fließen in die KI, und sind besondere Kategorien oder Beschäftigtendaten dabei?
ZweckIst der Zweck konkret beschrieben und im Verzeichnis der Verarbeitungstätigkeiten eingetragen?
RechtsgrundlageAuf welche Rechtsgrundlage stützt sich die Verarbeitung, und ist eine nötige Interessenabwägung dokumentiert?
AV-VertragIst ein Vertrag zur Auftragsverarbeitung abgeschlossen und die Liste der Unterauftragnehmer geprüft?
DrittlandWo werden die Daten verarbeitet, und welche Grundlage gilt für eine Übermittlung außerhalb der EU?
TrainingIst vertraglich ausgeschlossen, dass Eingaben zum Training genutzt werden?
EinstellungenSind Zugriffsrechte, Anmeldung, Verbindungen zu anderen Systemen und Aufbewahrung sinnvoll konfiguriert?
DatenminimierungGehen nur die Daten an die KI, die für den Zweck nötig sind, und wird wo möglich pseudonymisiert?
LöschkonzeptGibt es Fristen für Verläufe, Dateien, Transkripte, Protokolle und gespeicherte Ergebnisse?
DSFAIst geprüft und dokumentiert, ob eine Datenschutz-Folgenabschätzung nötig ist?
Automatisierte EntscheidungenPrüft ein Mensch, bevor Entscheidungen mit spürbarer Wirkung für Personen getroffen werden?
InformationSind die Datenschutzhinweise für Kunden und Beschäftigte aktualisiert?
BeteiligungSind Datenschutzbeauftragter und gegebenenfalls Betriebsrat eingebunden?
Regeln und SchulungWissen alle Nutzer, welche Daten in welches Tool dürfen?

Die letzte Zeile ist die, an der es im Alltag am häufigsten hakt. Die Regeln für dein Team hältst du am besten in einer KI-Richtlinie fürs Unternehmen fest und erklärst sie in einer kurzen Schulung.

Fazit

KI DSGVO-konform einzusetzen ist für KMU machbar, ohne jede Anwendung monatelang zu prüfen. Der Kern ist immer derselbe: Wisse, welche Daten wohin fließen, wähle Tools mit passendem Vertrag, gib der KI nur so viel wie nötig und räum regelmäßig auf. Mein Rat für den ersten Schritt: Nimm dir den KI-Einsatz vor, der in deinem Unternehmen heute am häufigsten vorkommt, und geh die Tabelle oben gemeinsam mit deinem Datenschutzbeauftragten durch. Danach weißt du, wo du stehst, und hast eine Vorlage für jeden weiteren Anwendungsfall.

Häufige Fragen

Das hängt vom Tarif, vom Vertrag und vom Zweck ab. In kostenlosen oder privaten Versionen von Chat-Assistenten wie ChatGPT fehlt meist ein Vertrag zur Auftragsverarbeitung, deshalb sind sie für Kunden- oder Mitarbeiterdaten ungeeignet. In Business-Tarifen mit AV-Vertrag, geklärter Rechtsgrundlage und ausgeschlossenem Training kann eine Nutzung möglich sein, wenn du nur die nötigen Daten eingibst.
In der Regel ja, sobald ein KI-Anbieter personenbezogene Daten in deinem Auftrag verarbeitet. Der Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO regelt, was der Anbieter mit den Daten tun darf und wie er sie schützt. Die meisten Anbieter von Business-Tarifen stellen dafür einen Standardvertrag bereit, der aber oft aktiv abgeschlossen werden muss.
Eine Datenschutz-Folgenabschätzung ist nötig, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die betroffenen Personen hat. Bei KI kann das etwa der Fall sein, wenn persönliche Aspekte von Menschen systematisch bewertet, umfangreich Gesundheitsdaten verarbeitet oder Beschäftigte überwacht werden. Ob sie im Einzelfall erforderlich ist, solltest du mit deinem Datenschutzbeauftragten prüfen und das Ergebnis dokumentieren.
Nach der DSGVO müssen Kunden erfahren, wie ihre Daten verarbeitet werden, auch wenn dafür ein KI-Dienst als Empfänger eingesetzt wird oder Daten in ein Drittland gehen. Das gehört in die Datenschutzhinweise. Zusätzlich sieht die EU-KI-Verordnung für bestimmte Fälle Transparenzpflichten vor, etwa wenn Menschen mit einem Chatbot kommunizieren.

Willst du deinen KI-Anwendungsfall datenschutzsauber umsetzen?

Ich setze KI-Anwendungsfälle so auf, dass Datenschutz von Anfang an mitgedacht ist: mit passenden Tools, Datenminimierung und sauberer Dokumentation. Die rechtliche Prüfung stimme ich dabei eng mit deinem Datenschutzbeauftragten ab.

Kostenloses Erstgespräch Mehr zur Leistung