Hochrisiko-KI nach AI Act: Wie die Klassifizierung wirklich funktioniert
Kurz gesagt
Der AI Act kennt zwei Wege zur Hochrisiko-Einstufung: Annex-I-Produkt-KI mit Drittanbieter-Konformitätsbewertung und Annex-III-Use-Cases in acht gelisteten Bereichen wie Beschäftigung, Bildung oder kritischer Infrastruktur. Entscheidend ist dabei immer der konkret gelistete Zweck, nicht die Branche – und selbst gelistete Systeme können ausnahmsweise nicht-hochrisiko sein.
Route 1: Annex-I-Produkt-KI
Ein KI-System ist nach Art. 6(1) hochrisiko, wenn es Sicherheitskomponente eines in Annex I erfassten Produkts ist oder selbst ein solches Produkt darstellt – und zusätzlich das einschlägige Produktrecht eine Drittanbieter-Konformitätsbewertung verlangt. Beide Voraussetzungen müssen zusammenkommen. Das betrifft typischerweise Maschinen, Medizinprodukte oder andere bereits stark regulierte Produktkategorien mit eingebauter KI-Komponente – nicht jedes Produkt, das irgendeine Form von KI enthält.
Route 2: Annex-III-Use-Cases in acht Bereichen
Art. 6(2) verweist auf Annex III, wo bestimmte Zwecke in acht Bereichen gelistet sind:
- Biometrie: bestimmte Fernidentifizierung, biometrische Kategorisierung/Emotionserkennung, soweit nicht bereits nach Art. 5 verboten.
- Kritische Infrastruktur: Sicherheitskomponenten beim Betrieb kritischer digitaler Infrastruktur, Straßenverkehr, Wasser/Gas/Heizung/Strom.
- Bildung: Zugang/Zuweisung zu Bildungseinrichtungen, Lernbewertung, Einschätzung des Bildungsniveaus, Prüfungsüberwachung.
- Beschäftigung: Recruiting, Bewerberauswahl, Arbeitsbedingungen, Beförderung/Kündigung, Leistungs- und Verhaltensbewertung.
- Wesentliche Dienste: bestimmte öffentliche Leistungen, Kreditwürdigkeitsprüfung, Lebens-/Krankenversicherung, Notrufpriorisierung.
- Strafverfolgung: bestimmte Risikobewertungen, Beweisbewertung, Profiling – vorrangig ist immer erst die Art.-5-Verbotsprüfung.
- Migration/Asyl/Grenze: Risikobewertung von Anträgen, Prüfung der Echtheit von Dokumenten.
- Justiz/Demokratie: Unterstützung richterlicher Tatsachen- und Rechtsanwendung, Einfluss auf Wahlen/Referenden in gelisteten Fällen.
Wichtig: Nicht jede Software in diesen Bereichen ist automatisch hochrisiko – entscheidend ist der konkret gelistete Zweck. Nicht jede Lernsoftware fällt unter die Bildungskategorie, und Assistenz- oder rein administrative richterliche Aufgaben werden von echter Unterstützung der Rechtsanwendung unterschieden.
Die Ausnahme nach Art. 6(3) – und ihre Grenze
Ein Annex-III-System kann ausnahmsweise als nicht hochrisiko gelten, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt und eine von vier eng gefassten Funktionen erfüllt: eine enge Verfahrensaufgabe, die Verbesserung einer bereits abgeschlossenen menschlichen Tätigkeit, reine Muster- oder Abweichungserkennung ohne Ersetzung menschlicher Entscheidung, oder eine vorbereitende Aufgabe. Diese Ausnahme gilt jedoch nicht pauschal: Profiling natürlicher Personen bleibt in jedem Fall hochrisiko, unabhängig davon, wie geringfügig der Beitrag des Systems sonst erscheint.
Dokumentationspflicht bleibt auch bei der Ausnahme
Wer sich bei einem Annex-III-Use-Case auf die Nicht-Hochrisiko-Ausnahme beruft, muss diese Bewertung vor Marktbereitstellung dokumentieren – die Ausnahme entbindet also nicht von jeder Dokumentation. Der AI Omnibus hat die Registrierungspflicht für solche Ausnahmefälle nicht beseitigt; die finale Einigung hat dies ausdrücklich beibehalten.
Aktueller Leitlinienstatus
Die Kommission veröffentlichte im Mai 2026 Entwurfsleitlinien mit zahlreichen praktischen Beispielen zur Annex-III-Klassifizierung. Die öffentliche Konsultation dazu schloss am 23. Juli 2026; zum Stichtag dieses Dossiers waren die Leitlinien noch nicht final, die Kommission kündigte die endgültige Annahme bis Ende 2026 an. Aussagen aus dem Entwurf sollten deshalb bis zur finalen Fassung als vorläufig behandelt werden.