Wie funktioniert die Risikoklassifizierung von KI-Systemen in der Praxis?
Kurz gesagt
Die gesetzliche AI-Act-Klasse ist nur eine Dimension der Risikobewertung. Eine praxistaugliche interne Klassifizierung prüft zusätzlich Personenwirkung, Datenklassen, Autonomie, Reversibilität und Reputationsrisiko und ordnet jedes System einer von mehreren internen Risikostufen zu. Diese Stufe entscheidet, welche Prüfung, welche Freigabe und welches Monitoring ein System durchläuft — nicht nur, ob es formal "Hochrisiko" ist.
Warum die gesetzliche Klasse allein nicht ausreicht
Der EU AI Act ordnet Systeme nach Risikostufen — unzulässig, hochrisikobehaftet, begrenztes Risiko, minimales Risiko. Diese Einordnung ist rechtlich verbindlich, deckt aber nicht jedes betriebliche Risiko ab. Ein Marketing-Textassistent kann geringe AI-Act-Risiken haben, aber erhebliche Geheimnis- oder Reputationsrisiken, wenn er mit unveröffentlichten Produktdaten arbeitet. Ein lokal betriebenes Modell kann Datentransfers reduzieren, behält aber Bias- oder Sicherheitsrisiken. Die AI-Act-Klasse ist deshalb eine Pflichtprüfung, aber nicht die vollständige interne Risikobewertung.
Fünf interne Risikostufen als Referenzmodell
Ein bewährtes Modell staffelt Systeme in fünf Stufen, die Prüfung und Freigabe steuern:
- Stufe 0 — unzulässig/Stop: verbotene Praktik nach AI Act oder ein nicht beherrschbarer Rechtsverstoß. Keine Produktivsetzung, sondern eine begründete Ablehnung mit Alternativen.
- Stufe 1 — gering: interner, reversibler Assistent ohne sensible Daten, Personenbewertung oder externe Wirkung. Standardfreigabe nach kurzer Checkliste möglich.
- Stufe 2 — moderat: fachliche Unterstützung mit Kunden- oder Unternehmensdaten oder externer Kommunikation, wobei ein Mensch entscheidet. Cross-funktionales Review, Datenschutz- oder Sicherheitsprüfung je nach Trigger.
- Stufe 3 — hoch: entscheidungsrelevante, personenbezogene, sicherheitskritische oder hochautonome Anwendung mit möglicher Nähe zu AI-Act-Hochrisikofällen. Formelle Freigabe, vollständige Systemakte, strenge Tests und Monitoring.
- Stufe 4 — reguliert hochrisiko: Hochrisiko-KI nach AI Act oder sektoral regulierte Einbettung. Vollständiges rollen- und Konformitätsprogramm mit technischer Dokumentation, Qualitätsmanagementsystem und Human Oversight.
Die interne Stufe ersetzt die gesetzliche Klassifikation nicht, ergänzt sie aber um genau die Risiken, die der AI Act nicht abdeckt.
Der Intake als erste Entscheidung
Bevor ein System die Stufe erhält, braucht es einen kurzen, aber tiefen Intake-Prozess. Ein guter Intake fragt nach: dem Problem, der Nicht-KI-Alternative, Nutzern und Betroffenen, den verwendeten Daten, dem erzeugten Output, der ausgelösten Aktion, der Entscheidungswirkung, dem Anbieter und den Integrationen. Aus den Antworten leiten sich die notwendigen Prüfenden und Nachweise ab.
Wichtig: Die erste Bewertung ist immer vorläufig. Pilotdaten, die technische Architektur oder Vertragsdetails können die Risikostufe später erhöhen oder senken. Die Klassifikation muss deshalb versioniert werden und bei wesentlichen Änderungen erneut geprüft werden — nicht nur einmal beim Start.
Was ein Change-Trigger auslöst
Eine Freigabe ist kein Endpunkt. Änderungen an Modell, Prompt, RAG-Wissensbasis, Daten, Toolrechten, Zweck, Nutzergruppe oder Anbieterbedingungen können eine Neubewertung der Risikostufe verlangen. Diese Schwellenwerte sollten vorab definiert sein, damit nicht jede kleine Anpassung, aber auch keine wesentliche Änderung unbemerkt durchgeht. Cloud-Dienste ändern sich teilweise ohne klassischen Release-Prozess des Kunden — Verträge, Change-Benachrichtigungen des Anbieters und Testumgebungen werden dadurch selbst zu Governance-Kontrollen.
Was ein Inventareintrag mindestens enthalten sollte
Damit die Klassifizierung überhaupt greifbar wird, braucht jedes System einen Eintrag mit: Zweck, Owner, Nutzern, betroffenen Personen, Datenklassen, Anbieter, Modell/Version, Integrationen, Autonomiegrad, Rechts- und Risikostatus, Freigabe und nächstem Reviewtermin. Ohne dieses Minimum bleibt jede Risikostufe eine Behauptung ohne Nachweis.