Dürfen Mitarbeiter Kundendaten in KI-Tools wie ChatGPT eingeben?
Kurz gesagt
In kostenlosen Consumer-Accounts ist die Eingabe von Kundendaten in KI-Tools in aller Regel ein DSGVO-Verstoß, weil kein Auftragsverarbeitungsvertrag besteht und Eingaben zur Modellverbesserung genutzt werden können. Business-Pläne mit AVV (etwa ChatGPT Team/Enterprise, Claude for Business) schaffen die datenschutzrechtliche Grundlage, ersetzen aber nicht die inhaltliche Rechtsgrundlage. Für hochsensible Daten bleibt lokale KI die sicherste Option.
Warum alltägliche Eingaben zum Problem werden
Im Arbeitsalltag wirken viele KI-Eingaben harmlos: eine Kundenliste zum Sortieren, eine Rechnung zum Zusammenfassen, ein Vertrag als Vorlage für eine Antwortmail. In der Mehrzahl dieser Fälle liegt jedoch ein Datenschutzverstoß vor. Personenbezogene Daten dürfen nach DSGVO nur weitergegeben werden, wenn eine Rechtsgrundlage besteht und – bei externer Verarbeitung – ein AVV vorliegt. Bei kostenlosen KI-Tools und Standard-Consumer-Accounts fehlt beides: Es gibt keinen AVV, die Daten werden auf Servern außerhalb der EU verarbeitet und laut Nutzungsbedingungen möglicherweise zur Modellverbesserung genutzt.
Entscheidend ist die Haftungsfrage: Im Schadensfall haftet das Unternehmen, nicht der unwissende Mitarbeiter. Fließen Kundendaten in ein KI-System, das kompromittiert wird oder die Daten zweckwidrig nutzt, kann ein meldepflichtiger Datenschutzvorfall vorliegen. Unwissenheit schützt dabei nicht – für Aufklärung und Regeln hätte das Unternehmen sorgen müssen. Der AI Act verankert dazu in Art. 4 eine ausdrückliche KI-Kompetenz- und Schulungspflicht.
Diese Datenkategorien gehören nicht in externe KI
- Kundendaten jeder Art: Namen, Adressen, E-Mail, Telefonnummern, Kundennummern
- Vertragsinhalte: Konditionen, Preise, Laufzeiten, Sondervereinbarungen
- Personaldaten: Gehälter, Beurteilungen, Krankmeldungen, persönliche Situationen
- Finanzdaten: Rechnungen, Kontoauszüge, Mahnungen, Bonitätsinformationen
- Geschäftsgeheimnisse: Strategien, unveröffentlichte Produkte, Kalkulationen, interne Prozesse
- Gesundheitsdaten: besonders schutzwürdig nach Art. 9 DSGVO – Tabu in Consumer-KI
- Kommunikation mit Rechtsanwalt oder Steuerberater: Anwaltsprivileg und Berufsgeheimnis
- Zugangsdaten und Passwörter: werden entgegen der Selbstverständlichkeit regelmäßig eingegeben
Was ein AVV bei KI-Tools leistet – und was nicht
Ein Auftragsverarbeitungsvertrag ist die datenschutzrechtliche Grundlage dafür, dass ein externer Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeiten darf. Business-Pläne wie ChatGPT Team und Enterprise, Claude for Business, Microsoft Copilot für Microsoft 365 und Gemini for Workspace bieten AVV-Regelungen an. Diese verpflichten den Anbieter vertraglich, Eingaben nicht für das Training neuer Modelle zu nutzen, Daten nicht an Dritte weiterzugeben und Sicherheitsmaßnahmen auf Unternehmensebene einzuhalten.
Der AVV löst jedoch nicht alle Fragen. Auch mit AVV bleiben Themen wie Drittlandtransfers in die USA und technische Sicherheit relevant. Vor allem berechtigt ein AVV zwar zur Verarbeitung, schafft aber keine Rechtsgrundlage, wenn keine besteht. Die Eingabe von Kundendaten muss inhaltlich gerechtfertigt sein – etwa durch Leistungserbringung oder ein berechtigtes Interesse. Ein AVV allein macht eine Dateneingabe also nicht automatisch zulässig.
Drei Kategorien für den Alltag
Eine einfache Dreiteilung deckt die meisten Situationen ab und lässt sich Mitarbeitern gut vermitteln:
1. Öffentliches – jede KI erlaubt: eigene Gedanken und Entwürfe ohne Personenbezug, öffentlich zugängliche Informationen wie Gesetzestexte oder Marktwissen, fachliche Fragen ohne Unternehmensbezug, kreative Aufgaben ohne Kundenbezug. 2. Kundenbezogenes – nur Business-KI mit AVV: Kundenkommunikation ohne sensible Detaildaten, allgemeine Vertragsformulierungen, interne Prozessdokumentation, Marktanalysen und Zusammenfassungen von Branchendaten. 3. Hochsensibles – nur lokale KI oder kein KI-Einsatz: Gesundheitsdaten, vollständige Personalakten, Anwaltskommunikation, Zugangsdaten, konkrete Finanzdaten Einzelner, strategische Betriebsgeheimnisse.
Um datenschutzkonforme KI-Nutzung einzurichten, empfiehlt sich: eingesetzte KI-Tools inventarisieren und klassifizieren, für jeden Dienst mit Personenbezug einen AVV aktiv abschließen, eine schriftliche Nutzungsrichtlinie erstellen, Mitarbeiter praxisnah schulen und für sensible Verarbeitungen lokale Modelle (etwa über Ollama auf eigenen Servern) prüfen.
Vorsicht bei vermeintlicher Anonymisierung
Das Ersetzen von Namen durch Nummern oder Platzhalter reicht meist nicht aus. Echte Anonymisierung nach DSGVO verlangt, dass Daten nicht mehr re-identifiziert werden können. Bleiben Adresse, Branche, Umsatz oder Vertragsdetails erhalten, sind Rückschlüsse weiterhin möglich. Wer unsicher ist, verzichtet auf die Eingabe oder setzt lokale KI ein, die keine Daten nach außen sendet.