Prompt Injection als Datenschutzverletzung: Wann Meldepflicht besteht
Kurz gesagt
Prompt Injection kann eine Datenschutzverletzung auslösen, wenn dadurch personenbezogene Daten offengelegt oder verändert werden. Nicht jede Sicherheitslücke ist automatisch meldepflichtig – ausschlaggebend ist, ob ein Risiko für die Rechte und Freiheiten der betroffenen Personen nicht unwahrscheinlich ist. Dann gilt die 72-Stunden-Frist nach Art. 33 DSGVO.
Was Prompt Injection technisch bedeutet
Prompt Injection ist eine Angriffstechnik, bei der ein Angreifer über geschickt formulierte Eingaben ein KI-System dazu bringt, von seiner ursprünglichen Instruktion abzuweichen – etwa interne Systemanweisungen preiszugeben, in einer RAG-Anwendung hinterlegte Dokumente auszugeben, für die der Nutzer eigentlich keine Berechtigung hat, oder Sicherheitsfilter zu umgehen. Ein System-Prompt kann Schutzregeln enthalten, ist aber keine alleinige Sicherheitskontrolle – wer sich allein auf eine gut formulierte Systemanweisung als Schutz verlässt, unterschätzt das Risiko.
Wann daraus eine Datenschutzverletzung wird
Nicht jede erfolgreiche Prompt Injection ist automatisch eine Datenschutzverletzung. Relevant wird sie, wenn dadurch personenbezogene Daten offengelegt oder verändert werden – etwa wenn ein Angreifer über eine manipulierte Eingabe Kundendaten aus einer angeschlossenen Datenbank auslesen kann, die eigentlich nur für autorisierte Mitarbeiter zugänglich sein sollten. Ein Datenabfluss über einen KI-Dienst kann dann binnen 72 Stunden meldepflichtig sein – aber nur, wenn ein Risiko für Rechte und Freiheiten der Betroffenen nicht unwahrscheinlich ist. Eine Lücke ohne tatsächlichen Zugriff auf personenbezogene Daten oder ohne belastbaren Hinweis auf einen Datenabfluss löst diese Pflicht nicht automatisch aus.
Die Risikoprüfung als entscheidender Schritt
Vor jeder Meldeentscheidung steht eine dokumentierte Risikoprüfung: Welche Daten waren potenziell betroffen? Wie viele Personen? Wie sensibel sind die Daten? Gibt es Anhaltspunkte, dass der Angriff tatsächlich zu einem Datenabfluss geführt hat, oder blieb es beim Versuch? Diese Bewertung sollte dokumentiert werden, unabhängig davon, ob am Ende eine Meldung erfolgt – die Nachweisbarkeit der Entscheidung ist selbst Teil der Rechenschaftspflicht nach der DSGVO.
Sicherheit als grundsätzliche Pflicht, nicht nur bei Vorfällen
Die DSGVO verlangt keine perfekte Sicherheit, aber angemessene, risikobasierte Maßnahmen und Nachweisbarkeit. Für KI-Systeme mit Zugriff auf personenbezogene Daten – insbesondere Chatbots und RAG-Anwendungen mit Anbindung an interne Datenbanken – gehört eine Auseinandersetzung mit Prompt-Injection-Risiken deshalb in die technische und organisatorische Grundausstattung: Eingabevalidierung, strikte Trennung von Systemanweisung und Nutzereingabe, Rechtebeschränkung auf das erforderliche Minimum bei angebundenen Datenquellen und Protokollierung auffälliger Interaktionsmuster.
Was Unternehmen konkret tun sollten
1. Prüfen, welche KI-Systeme im Unternehmen Zugriff auf personenbezogene Daten haben – direkt oder über angebundene Datenquellen wie RAG-Systeme. 2. Ein Verfahren für den Umgang mit auffälligen KI-Interaktionen definieren, das auch die 72-Stunden-Prüfung einschließt. 3. Zugriffsrechte für KI-Systeme auf Datenquellen so eng wie möglich fassen – nicht mehr Daten anbinden, als für den konkreten Zweck nötig ist. 4. Prompt-Injection-Tests als Teil der Sicherheitsprüfung vor dem produktiven Einsatz eines KI-Chatbots oder -Assistenten einplanen.