Verbotene KI-Praktiken nach dem AI Act: Die vollständige Übersicht

Warum die Verbotsprüfung vor der Risikoklassifizierung steht

Ein wichtiger, oft übersehener Punkt: Die Prüfung läuft hierarchisch. Zuerst wird geprüft, ob der Anwendungsfall in den Geltungsbereich des AI Act fällt und ob Art. 5 greift. Erst wenn eine konkrete Nutzung nicht verboten ist, stellt sich überhaupt die Frage, ob sie als Hochrisiko-KI einzustufen ist. Ein System kann nicht dadurch legal werden, dass es als High-Risk behandelt und mit entsprechenden Compliance-Maßnahmen versehen wird – wenn der Zweck bereits unter ein Verbot fällt, hilft auch die sorgfältigste Konformitätsbewertung nicht. Emotionserkennung am Arbeitsplatz ist deshalb kein „High-Risk-Compliance-Projekt", sondern in aller Regel schlicht unzulässig.

Die verbotenen Praktiken im Einzelnen

• Manipulative oder ausnutzende Systeme: KI, die unterschwellige Techniken jenseits des Bewusstseins einer Person einsetzt oder gezielt Schwächen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Situation ausnutzt, um Verhalten wesentlich zu beeinflussen und dadurch Schaden zu verursachen.
• Bestimmte Social-Scoring-Praktiken: Bewertung oder Klassifizierung natürlicher Personen anhand sozialen Verhaltens oder persönlicher Merkmale, die zu benachteiligender Behandlung in sachfremdem Kontext führt.
• Individuelle kriminalitätsbezogene Risikobewertung allein auf Profiling: KI-Systeme, die ausschließlich auf Basis von Persönlichkeitsmerkmalen oder Profiling das Risiko einer Straftat einer natürlichen Person bewerten, ohne objektive, überprüfbare Tatsachen.
• Ungezieltes Scraping von Gesichtsbildern: Der ungezielte Aufbau oder die Erweiterung von Gesichtserkennungsdatenbanken durch Scraping aus dem Internet oder aus Videoüberwachung.
• Emotionserkennung am Arbeitsplatz und in der Bildung: mit eng begrenzten Ausnahmen, etwa für medizinische oder Sicherheitszwecke.
• Bestimmte biometrische Kategorisierung natürlicher Personen zur Ableitung sensibler Merkmale wie politischer Überzeugung, Gewerkschaftszugehörigkeit oder sexueller Orientierung.
• Bestimmte Echtzeit-Fernidentifizierung durch biometrische Systeme für Strafverfolgungszwecke im öffentlichen Raum, mit eng gefassten Ausnahmen.

Die Kommissionsleitlinien erläutern die genauen Grenzen dieser Praktiken, sind aber selbst nicht bindend – im Zweifel entscheidet die konkrete Norm.

Neu seit 2026: Das Omnibus-Verbot für nicht einvernehmliche Inhalte

Die Änderungsverordnung 2026 ergänzt den Verbotskatalog um KI-Systeme zur Erzeugung nicht einvernehmlicher sexuell expliziter oder intimer Inhalte sowie von Material sexuellen Kindesmissbrauchs. Die Kommission beschreibt dabei insbesondere sogenannte Nudification-Anwendungen, die reale Personen auf Bildern digital „entkleiden". Für diese neu hinzugefügte Verbotsregel gilt ein späterer Anwendungszeitpunkt: 2. Dezember 2026.

Die Fallpraxis ist noch jung

Der AI Act verpflichtet nach Art. 112 zu einer wiederkehrenden Überprüfung der Verbote. Ein Kommissionsbericht vom Mai 2026 zeigt, dass die Praxiserfahrung zu den erst seit Februar 2025 geltenden Verboten noch begrenzt ist. Für Unternehmen bedeutet das: Der Verbotskatalog ist geltendes Recht, aber seine konkrete Auslegung in Grenzfällen kann sich mit zunehmender Vollzugserfahrung und neuen Leitlinien weiterentwickeln.

Was Unternehmen konkret prüfen sollten

Bevor eine KI-Anwendung geplant wird, die mit Emotionen, biometrischen Merkmalen, Verhaltensbeeinflussung oder Risikobewertung von Personen zu tun hat, sollte zuerst die Verbotsprüfung nach Art. 5 erfolgen – unabhängig davon, wie die spätere Risikoklassifizierung ausfallen würde. Das gilt besonders für HR-Anwendungen, Marketing-Tools mit Verhaltensbeeinflussung und jede Form von Bewertungssystemen, die auf persönliche Merkmale statt auf objektive Fakten abstellen.