Kennzeichnungspflicht für KI-Inhalte: Was Art. 50 AI Act konkret verlangt
Kurz gesagt
Art. 50 AI Act verlangt, dass Personen über die Interaktion mit einem KI-System informiert werden, wenn dies nicht offensichtlich ist, und dass synthetische Inhalte wie KI-Bilder oder -Texte maschinenlesbar als künstlich erzeugt gekennzeichnet werden. Deepfakes und bestimmte KI-generierte Texte zu Angelegenheiten öffentlichen Interesses treffen zusätzliche Offenlegungspflichten der Deployer.
Wann ein Chatbot offengelegt werden muss
Provider von Systemen, die direkt mit natürlichen Personen interagieren, müssen die betroffenen Personen grundsätzlich darüber informieren, dass sie mit einem KI-System interagieren – es sei denn, dies ist für eine hinreichend informierte, aufmerksame und verständige Person ohnehin offensichtlich. In der Praxis bedeutet das für die meisten Kunden-Chatbots: Ein klarer Hinweis wie „Sie chatten mit unserem KI-Assistenten" zu Beginn der Konversation ist die sichere Variante, selbst wenn manche Nutzer die KI-Natur vielleicht erkennen würden.
Maschinenlesbare Markierung synthetischer Inhalte
Provider von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen die Outputs grundsätzlich in maschinenlesbarem Format markieren und als künstlich erzeugt oder manipuliert erkennbar machen, soweit dies technisch machbar ist. Das betrifft etwa Bildgeneratoren, KI-Sprachsynthese und Video-Generierungstools. Der freiwillige Transparenz-Code operationalisiert diese Pflicht in der Praxis, ersetzt sie aber nicht.
Deepfakes und Public-Interest-Texte: zusätzliche Deployer-Pflichten
Wer Deepfakes erzeugt oder manipuliert oder bestimmte KI-generierte bzw. manipulierte Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, trägt als Deployer gesonderte Offenlegungspflichten. Bei Texten kann eine Ausnahme greifen, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt – ein klassischer, redaktionell geprüfter Fachartikel mit KI-Unterstützung fällt damit typischerweise nicht unter die volle Kennzeichnungspflicht, ein automatisiert erzeugter und unredigierter Meinungsartikel zu einem öffentlichen Thema eher schon.
Der freiwillige Code als Compliance-Weg, kein Gesetzersatz
Der freiwillige Transparenz-Code wurde von Kommission und AI Board als angemessener Weg zum Compliance-Nachweis bewertet. Unterzeichner können seine Maßnahmen als anerkannten Nachweisweg nutzen; alternative Maßnahmen bleiben grundsätzlich möglich, müssen im Einzelfall gegenüber den Marktaufsichten aber eigenständig als angemessen dargelegt werden.
Wichtige Termine
Die Kernpflichten aus Art. 50 gelten grundsätzlich seit 2. August 2026. Für bestimmte Provider bereits vor dem 2. August 2026 marktbereitgestellter Systeme gilt eine begrenzte Übergangsregel hinsichtlich der maschinenlesbaren Markierung nach Art. 50(2) bis 2. Dezember 2026 – andere Art.-50-Pflichten bleiben davon grundsätzlich unberührt. Diese Übergangsregel sollte nicht überdehnt werden: Sie betrifft nur den engen Fall der maschinenlesbaren Markierung von Alt-Systemen.
Kein Freibrief, aber auch keine Kennzeichnungspflicht für KI-gebaute Websites
Ein häufiges Missverständnis geht in die andere Richtung: Wer eine Website mit KI-Unterstützung texten, gestalten oder programmieren lässt, muss das nicht generell offenlegen. Es gibt keine allgemeine Pflicht, eine mit einem KI-Werkzeug erstellte Website oder KI-generierten Programmcode als solchen zu kennzeichnen – Art. 50 zielt auf die drei oben genannten Fallgruppen, nicht auf die Entstehung des Contents oder Codes an sich.
Was Unternehmen jetzt konkret prüfen sollten
1. Werden Kunden oder Website-Besucher an irgendeiner Stelle mit einem KI-System interagieren, ohne dass dies offensichtlich ist? Dann braucht es eine klare Kennzeichnung. 2. Werden im Unternehmen KI-generierte Bilder, Audio- oder Videoinhalte veröffentlicht? Dann muss geprüft werden, ob eine maschinenlesbare Kennzeichnung technisch möglich und umgesetzt ist. 3. Werden KI-generierte Texte zu Themen von öffentlichem Interesse veröffentlicht – etwa in einem Unternehmensblog zu gesellschaftlich relevanten Themen? Dann sollte eine dokumentierte redaktionelle Kontrolle mit klarer Verantwortlichkeit etabliert sein.