Kennzeichnung von KI-Inhalten nach Art. 50 KI-VO

Art. 50 KI-VO führt ein gestuftes System zur Kennzeichnung von KI-generierten und KI-manipulierten Inhalten ein. Dieser Beitrag erläutert die zentralen Transparenzpflichten für Anbieter und Betreiber, von der Kennzeichnung interaktiver KI-Systeme über synthetische Medien bis hin zu Deepfakes, und beschreibt die weiteren allgemeinen Anforderungen, die für alle Pflichten gelten.

Wer ist Anbieter und wer Betreiber eines KI-Systems?

Ausgangspunkt jeder Prüfung ist die Zuordnung zur richtigen Rolle. Nach Art. 3 Nr. 3 KI-VO ist Anbieter, wer ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke entgeltlich oder unentgeltlich auf dem Unionsmarkt in Verkehr bringt oder in Betrieb nimmt. Betreiber ist demgegenüber nach Art. 3 Nr. 4 KI-VO, wer ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit einsetzt.

Das KI-System selbst muss die Definition des Art. 3 Nr. 1 KI-VO erfüllen. Es ist ein maschinengestütztes System, das für einen autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. Einfache regelbasierte Automatisierungen (etwa klassische Abwesenheitsantworten) fallen nicht darunter.

Welche Kennzeichnungspflicht gilt für interaktive KI-Systeme?

Die erste Pflicht aus Art. 50 Abs. 1 KI-VO adressiert Anbieter von KI-Systemen, die zur direkten Interaktion mit natürlichen Personen bestimmt sind. Diese erfordert vier kumulative Merkmale:

• Es muss ein KI-System vorliegen.
• Das System soll interagieren.
• Die Interaktion erfolgt auf direktem Wege.
• Es werden natürliche Personen adressiert.

Nicht erfasst sind rein industrielle, geschlossene Systemumgebungen sowie die Backend-Kommunikation zwischen KI-Agenten, deren Ausgaben nicht für Menschen bestimmt sind. Der Anbieter muss das System so gestalten und entwickeln, dass die betroffene Person spätestens bei der ersten Interaktion erkennt, mit einer Maschine zu kommunizieren. Ziel dieser Kennzeichnung ist es, eine übermäßige Vertrauensbildung („overreliance“) zu vermeiden und informierte Entscheidungen zu ermöglichen. Eine Ausnahme gilt, wenn der KI-Charakter für eine angemessen aufmerksame und verständige Person offensichtlich ist, sowie für gesetzlich zugelassene Strafverfolgungssysteme.

Wie müssen synthetische Medien durch KI gekennzeichnet werden?

Die zweite Pflicht nach Art. 50 Abs. 2 KI-VO trifft Anbieter generativer KI-Systeme, die Bild-, Audio-, Video- oder Textinhalte erzeugen oder manipulieren. Diese synthetischen Ausgaben müssen in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar sein. Die EU-Kommission verlangt, dass die technischen Lösungen (etwa Wasserzeichen, Metadaten-Signaturen, Fingerprinting oder kryptografische Verfahren) „so wirksam, interoperabel, robust und zuverlässig wie technisch möglich“ ausgestaltet sind.

Auch hybride Inhalte, bei denen KI-generierte und menschlich erstellte Elemente kombiniert werden, müssen gekennzeichnet werden, sofern die KI-Beteiligung relevant ist. Die Kommission nennt als kennzeichnungspflichtige Manipulationen beispielsweise das Umschreiben von Texten mit inhaltlichen Veränderungen, den Austausch oder das Einfügen von Personen und Objekten in Bildern sowie wesentliche Gesichtsveränderungen.

Rein unterstützende Funktionen wie Rechtschreibkorrektur oder Standardfilter bleiben ausgenommen, ebenso interne Verarbeitungsschritte eines KI-Agenten, die für Menschen nicht wahrnehmbar sind.

Wann liegt ein kennzeichnungspflichtiger Deepfake vor?

Die dritte, praktisch besonders relevante Pflicht des Art. 50 Abs. 3 KI-VO richtet sich an Betreiber, die mit einem KI-System Deepfakes erzeugen oder manipulieren. Art. 3 Nr. 60 KI-VO definiert Deepfakes als KI-generierte oder -manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden. Das dargestellte Subjekt oder Objekt muss existieren oder plausibel existieren können, rein phantastische Wesen ohne Realitätsbezug fallen heraus.

Die Guidelines der EU-Kommission nennen mehrere praxisnahe Beispiele:

• KI-manipuliertes Bild einer Szene mit zwei echten Profifußballern vor einem Gebäude, das einem Fußballstadion ähnelt.
• KI-generierte Audioaufnahme mit Stimmenklonen der Moderatoren eines Podcasts und eines Gastgesprächspartners, die über aktuelle Nachrichten diskutieren.
• KI-generiertes Video einer Person, die einem Politiker ähnelt und vor einem Publikum eine Rede hält.
• KI-generiertes Video mit einer KI-erstellten Darstellung eines bekannten Influencers in einem Werbe- oder Promotionskontext.
• KI-generiertes Video mit einem realistisch wirkenden synthetischen Avatar eines Unternehmenschefs, der Mitarbeiter für ihre Arbeit und die Unternehmensleistungen des vergangenen Jahres lobt.
• KI-generiertes Bild eines Produkts in Werbung oder Verpackung, das die Wahrnehmung der Zielgruppe beeinflussen und über das tatsächliche Aussehen, die Eigenschaften oder die Verwendung des Produkts täuschen kann (z.B. indem das Produkt attraktiver, qualitativ hochwertiger oder anders dargestellt wird als in Wirklichkeit).

Fotorealismus ist ein starkes Indiz, jedoch nicht allein ausschlaggebend, entscheidend ist der voraussichtliche Wahrnehmungskontext. Für Deepfakes, die ein Teil eines eindeutig künstlerischen, kreativen, satirischen oder fiktionalen Werks sind, gelten gelockerte Kennzeichnungspflichten. Die Kennzeichnung muss angemessen erfolgen, ohne die Wahrnehmung des Werks zu beeinträchtigen. Voraussetzung ist, dass der künstlerische Charakter für das Publikum erkennbar ist, beispielsweise durch typische Stilmittel, Übertreibungen oder Ironie.

Welche Kennzeichnungspflicht trifft KI-generierte Texte im öffentlichen Interesse?

Die vierte Pflicht aus Art. 50 Abs. 4 KI-VO adressiert Betreiber, die KI-generierte oder -manipulierte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Die Guidelines konkretisieren diesen Begriff auf gesellschaftlich relevante Themen wie Politik und demokratische Prozesse, öffentliche Verwaltung und Dienste, Justiz, Gesundheit oder Sicherheit auf lokaler, nationaler oder unionaler Ebene.

Eine wichtige Ausnahme von der Kennzeichnungspflicht greift, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterlag und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Welche allgemeinen Anforderungen stellt Art. 50 Abs. 5 an die Kennzeichnung?

Für alle vier Pflichten gilt: Die Information muss spätestens bei der ersten Interaktion oder Aussetzung klar und in eindeutiger Weise bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen. „Klar“ bedeutet dabei, dass sie wahrnehmbar, leicht verständlich und auch für Menschen mit Behinderungen zugänglich ist. „In eindeutiger Weise“ verlangt, dass sich die Kennzeichnung deutlich vom übrigen Kontext abhebt.

Besonders schutzbedürftige Gruppen wie Kinder oder Personen mit kognitiven Einschränkungen sind bei der Gestaltung der Kennzeichnung von KI-Inhalten zu berücksichtigen.

Kennzeichnung von KI-Inhalten erfordert präzise Compliance

Die saubere Trennung der vier Adressatenrollen, die korrekte Einordnung synthetischer Inhalte und die Prüfung der kumulativen Deepfake-Kriterien sind entscheidend. Verantwortliche sollten die Legaldefinitionen der KI-VO zum Ausgangspunkt jeder Analyse machen und ihre Kennzeichnungslösungen fortlaufend auf Wirksamkeit überprüfen. Mit Blick auf zu erwartende Konkretisierungen durch die EU-Kommission, Aufsichtsbehörden und Gerichte ist zudem eine regelmäßige Neubewertung ratsam.