Kundendaten, personenbezogene Informationen und Betriebsgeheimnisse dürfen ohne adäquate Datenschutzabsicherung nicht in externe KI-Systeme eingegeben werden. Business-Pläne (OpenAI Enterprise, Claude for Business) schließen Training auf Nutzerdaten aus.
Kundendaten in ChatGPT eingeben ohne Enterprise-Vertrag ist in fast allen Faellen ein DSGVO-Verstoss. Die Daten landen auf US-Servern, werden moeglicherweise fuer Training genutzt, und es gibt keinen Auftragsverarbeitungsvertrag.
Das Problem das kaum jemand sieht
Die Szene wiederholt sich taeglich in deutschen Unternehmen: Ein Mitarbeiter kopiert eine Kundenliste in ChatGPT um sie nach Branchen zu sortieren. Eine Sachbearbeiterin gibt eine Rechnung in ein KI-Tool ein damit es eine Zusammenfassung erstellt. Ein Verkaeuferin haengt einen Kundenvertrag ins Prompt damit die KI eine Antwortmail formuliert. All das klingt harmlos — ist aber in der Mehrzahl der Faelle ein DSGVO-Verstoss.
Das Problem: Personenbezogene Daten duerfen nach DSGVO nur weitergegeben werden wenn eine Rechtsgrundlage besteht oder ein datenschutzkonformer Auftragsverarbeitungsvertrag (AVV) vorliegt. Bei kostenlosen KI-Tools und Standard-Consumer-Accounts gibt es keinen AVV. Die Daten landen auf Servern ausserhalb der EU, werden laut AGB moeglicherweise zur Modellverbesserung genutzt, und der Mitarbeiter weiss das in den meisten Faellen nicht.
Erschwerend kommt hinzu: Im Schadensfall haftet das Unternehmen — nicht der Mitarbeiter der unwissentlich gehandelt hat. Wenn Kundendaten in ein KI-System fliessen, dieses kompromittiert wird oder die Daten fuer andere Zwecke genutzt werden, ist das ein meldepflichtiger Datenschutzvorfall. Und die Unwissenheit des Mitarbeiters ist kein Schutzargument — dafuer haette das Unternehmen sorgen muessen (Stichwort: Schulungspflicht nach Art. 4 AI Act).
Diese Datenkategorien gehoeren nicht in externe KI-Tools
- Kundendaten jeder Art: Namen, Adressen, E-Mail, Telefonnummern, Kundennummern
- Vertragsinhalte: Konditionen, Preise, Laufzeiten, Sondervereinbarungen mit Kunden
- Personaldaten: Gehaelter, Beurteilungen, Krankmeldungen, persoenliche Situationen von Mitarbeitern
- Finanzdaten: Rechnungen, Kontoauszuege, Mahnungen, Bonitaetsinformationen
- Geschaeftsgeheimnisse: Strategien, unveroffentlichte Produkte, Kalkulationen, interne Prozesse
- Gesundheitsdaten: Besonders schutzwuerdig nach DSGVO — absolutes Tabu in Consumer-KI
- Kommunikation mit Rechtsanwalt oder Steuerberater: Anwaltsprivileg und Berufsgeheimnis
- Zugangsdaten und Passwoerter: Offensichtlich, wird aber regelmaessig in KI-Tools eingegeben
Was ein AVV bei KI-Tools bedeutet — und wann er genuegt
Ein Auftragsverarbeitungsvertrag (AVV) ist die datenschutzrechtliche Grundlage dafuer, dass ein externer Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeiten darf. Bei klassischen IT-Dienstleistern — Hostinganbietern, CRM-Systemen, Buchhaltungssoftware — ist ein AVV Standard. Bei KI-Tools war das lange eine Grauzone. Das hat sich geaendert.
OpenAI bietet fuer ChatGPT Team und Enterprise einen AVV an. Anthropic (Claude) bietet ebenfalls AVV-faehige Business-Planes an. Google (Gemini for Workspace) und Microsoft (Copilot fuer Microsoft 365) haben AVV-Regelungen in ihren Enterprise-Vertraegen. Der Kernunterschied zu Consumer-Accounts: Diese Business-Plaene verpflichten den Anbieter vertraglich dazu, die eingegebenen Daten nicht fuer das Training neuer Modelle zu nutzen, die Daten nicht an Dritte weiterzugeben, und Sicherheitsmassnahmen auf Unternehmensebene einzuhalten.
Wichtig zu verstehen: Ein AVV loest nicht alle Probleme. Auch mit AVV bleiben Fragen zu Drittlandtransfers (USA) und zur technischen Sicherheit. Zudem gilt: Ein AVV berechtigt zur Verarbeitung — er schafft aber keine Rechtsgrundlage wenn keine besteht. Die Eingabe von Kundendaten in ein KI-System muss auch inhaltlich gerechtfertigt sein (Leistungserbringung, berechtigtes Interesse etc.). Ein AVV allein macht die Dateneingabe nicht automatisch zulassig.
Datenschutzkonforme KI-Nutzung im Unternehmen einrichten
-
KI-Tools inventarisieren und klassifizieren
Welche KI-Tools werden im Unternehmen eingesetzt? Fuer welche davon gibt es Business-Accounts mit AVV, fuer welche nicht? Consumer-Accounts ohne AVV muessen fuer professionellen Einsatz mit personenbezogenen Daten gesperrt oder durch Business-Accounts ersetzt werden.
-
AVV mit Anbietern abschliessen
Fuer jeden KI-Dienst der personenbezogene Daten verarbeiten soll, muss ein AVV vorliegen. ChatGPT Team, Claude for Business, Microsoft Copilot for M365 und Google Workspace Gemini haben alle AVV-Optionen. Diese muessen aktiv abgeschlossen werden — sie gelten nicht automatisch durch die Nutzung.
-
KI-Nutzungsrichtlinie erstellen
Definieren Sie schriftlich welche Daten in welche KI-Tools eingegeben werden duerfen. Klare Regeln: Consumer-ChatGPT nur fuer oeffentliche Informationen und eigene Entwuerfe, Business-KI mit AVV fuer Kundenkommunikation, keine KI fuer Gesundheitsdaten oder Gehaltsinformationen. Diese Richtlinie muss Mitarbeiter aktiv kommuniziert werden.
-
Mitarbeiter schulen
Die beste Richtlinie hilft nichts wenn Mitarbeiter sie nicht kennen. Schulen Sie explizit: Was ist ein personenbezogenes Datum? Was passiert mit Daten die ich in ChatGPT eingebe? Was ist erlaubt, was nicht? Praxisnahe Beispiele kommen besser an als Paragraphentexte.
-
Lokale KI-Alternativen pruefen
Fuer besonders sensible Verarbeitungen — Personalakten, Gesundheitsdaten, Berufsgeheimnisse — sind lokale KI-Modelle die sicherste Loesung. Tools wie Ollama erlauben den Betrieb von Sprachmodellen auf eigenen Servern. Die Daten verlassen das Unternehmen nie. Das ist technisch aufwaendiger, aber fuer bestimmte Anwendungsfaelle die einzige DSGVO-sichere Option.
Achtung: Auch anonymisierte Daten sind nicht immer sicher
Tipp: Interne KI-Sandbox fuer unbedenkliche Tests
Was grundsaetzlich sicher und was nie erlaubt ist
Grundsaetzlich unbedenklich in jeder KI (auch Consumer): Eigene Gedanken und Entwuerfe ohne Personenbezug, oeffentlich zugaengliche Informationen (Gesetzestexte, Marktwissen), fachliche Fragen ohne Unternehmensbezug, kreative Aufgaben ohne Kundenbezug. Bei diesen Eingaben entstehen keine DSGVO-Risiken — hier darf jeder Mitarbeiter auch Consumer-KI nutzen.
Mit AVV und Business-Account moeglich: Kundenkommunikation (E-Mails, Angebote) wenn der Kunde nur mit Rolle und nicht mit sensiblen Detaildaten auftaucht, allgemeine Vertragsformulierungen ohne unternehmens- oder personenspezifische Details, interne Prozessdokumentation ohne Personenbezug, Marktanalysen und Zusammenfassungen von Branchendaten.
Nie in externe KI — auch nicht mit AVV: Gesundheitsdaten von Mitarbeitern oder Kunden, vollstaendige Personalakten, Anwaltskommunikation, Zugangsdaten, konkrete Finanzdaten einzelner Personen, Betriebsgeheimnisse mit strategischer Relevanz. Fuer diese Kategorien gilt: Entweder lokale KI oder kein KI-Einsatz. Die Risiken ueberwiegen den Effizienzgewinn bei weitem.
- Kundendaten in Consumer-KI-Tools sind fast immer ein DSGVO-Verstoss — Business-Accounts mit AVV sind Pflicht fuer professionellen Einsatz.
- Ein AVV schafft die datenschutzrechtliche Grundlage, loest aber nicht alle Probleme — die Rechtsgrundlage fuer die Verarbeitung muss separat bestehen.
- Drei Kategorien helfen im Alltag: Oeffentliches (jede KI), Kundenbezogenes (nur Business-KI mit AVV), Hochsensibles (nur lokale KI oder kein KI).
INREMA prueft Ihren KI-Einsatz auf DSGVO-Konformitaet und hilft beim Aufbau einer rechtssicheren KI-Nutzungsrichtlinie fuer Ihr Unternehmen.
DSGVO-KI-Check anfragenHäufige Fragen
Darf ich Kundennamen in ChatGPT eingeben?
Was ist der Unterschied zwischen ChatGPT Free und ChatGPT Team?
Was ist ein AVV und brauche ich den wirklich?
Kann ich sensible Daten selbst anonymisieren bevor ich sie eingebe?
War dieser Artikel hilfreich?