Der Einsatz von KI-Tools wird sowohl im Alltag und insbesondere auch im Unternehmen zunehmend häufiger. Unternehmen greifen daher auch vermehrt auf KI erzeugte oder manipulierte Texte – sei es für Websites, Marketing oder auch Kundenkommunikation – zurück. Die KI-Verordnung schafft Transparenzpflichten, so dass die Kennzeichnung von KI generierten Inhalten auch rechtlich relevant wird. Dieser Artikel soll einen Einblick geben, welche Bedeutung die Transparenzpflicht der KI-VO für Texte hat.
Der Inhalt im Überblick
Kennzeichnungspflicht nach KI-VO: Rechtlicher Rahmen und betroffene Texte
Die Transparenzpflicht gilt für Texte, die von einem KI-System erzeugt oder manipuliert wurden – im Gegensatz zu vollständig von einem Menschen selbst verfassten Texten. Die Erzeugung erfolgt basierend auf Eingaben (sogenannten Prompts), welche die KI auswertet, um Wörter und Sätze zu erzeugen.
Ab dem 2. August 2026 gelten die Kennzeichnungspflichten für KI-Inhalte gem. Art. 50 Abs. 4 KI-VO. Das Grundprinzip ist, dass die betreffenden natürlichen Personen erkennen können bzw. darüber informiert werden, dass die Inhalte aus einem KI-System stammen. Die Pflicht betrifft den Betreiber, welcher in eigener Verantwortung das KI-System beruflich verwendet. Erwähnenswert ist noch, dass parallel zur KI-VO auch das Lauterkeitsrecht (primär im UWG) eine Rolle spielt, da auch dieses gegen irreführende und intransparente Werbung vorgeht.
Wann müssen Texte gekennzeichnet werden?
Art. 50 Abs.4 Uabs.2 KI-VO sagt:
„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Diese Pflicht gilt nicht, wenn (…) die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“
Datenschutzrechtlicher Blick
Immer wenn ein KI-System personenbezogene Daten verarbeitet, gelten die Grundsätze des Art. 5 DSGVO. Die Kennzeichnungs- bzw. Transparenzpflicht der KI-VO kommt ergänzend hinzu und ist zusätzlich zu den Informationspflichten nach der DSGVO zu beachten.
Wie sollte die Kennzeichnung in der Praxis erfolgen?
Wie genau die Kennzeichnung zu erfolgen hat, ist in der KI-VO nicht detailliert geregelt. Der Art. 50 Abs. 5 KI-VO fordert aber eine zumindest klare und eindeutige Information, die spätestens zum Zeitpunkt der ersten Interaktion bereitgestellt werden soll. Mögliche Formulierungen könnten daher z.B. sein:
- Dieser Text wurde (ganz oder teilweise) mit Hilfe von KI erstellt.
- Antwort generiert durch ein KI-System.
In der Praxis spielt ein weiterer Aspekt eine wichtige Rolle: Texte sind von der Kennzeichnungspflicht ausgenommen, wenn sie von einem Menschen überprüft oder redaktionell kontrolliert wurden und wenn eine Person benannt ist, welche die redaktionelle Verantwortung trägt. Es empfiehlt sich daher insbesondere für Unternehmen, klare Regelungen und Strukturen festzulegen: Wer überprüft Texte vor der Veröffentlichung? Wer darf KI einsetzen? Und welche Inhalte dürfen grundsätzlich nicht über KI verarbeitet werden? Auf diese Weise lässt sich nicht nur die Kennzeichnungspflicht verlässlich umsetzen, sondern auch die interne Verantwortung transparent zuordnen.
Unterschiedliche Transparenzpflichten für Deepfakes und KI-Texte
Unterschieden wird im Art. 50 Abs. 4 KI-VO zwischen KI-Systemen welche Bild-, Ton- oder Videoinhalte erzeugen und Systemen, welche Textinhalte generieren. Die Unterscheidung ist vor allem vom Europäischen Gesetzgeber getroffen worden, da die Risiken unterschiedlich zu bemessen sind. Bei sog. Deepfakes (dazu gehören täuschend echte, KI-generierte Bilder) ist das Risiko von Manipulation und Desinformation höher, z.B. wenn das Bild einer Demonstration gezeigt wird, die in Wirklichkeit nie stattgefunden hat. Bei KI-Texten dagegen liegt das Risiko eher bei einer Irreführung über die Vertrauenswürdigkeit oder die Urheberschaft des Inhalts. Weil der Schutz hier nur auf Angelegenheiten von öffentlichem Interesse abzielt, müssen Texte, die nicht für die Öffentlichkeit bestimmt sind, nicht gekennzeichnet werden.
Weil Deepfakes deutlich risikobehafteter sind als KI-Texte, hat der europäische Gesetzgeber sie mit strengeren Transparenzanforderungen versehen. Für Texte lässt sich demgegenüber festhalten, dass die Kennzeichnungspflicht in vielen Konstellationen zurücktritt: Das folgt bereits aus der Beschränkung der Kennzeichnungspflicht auf Angelegenheiten von öffentlichem Interesse. Darüber hinaus entfällt die Kennzeichnungspflicht, sobald KI-erzeugte Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Da KI erzeugte oder manipulierte Texte in der Praxis ohnehin meist einer menschlichen (redaktionellen) Kontrolle unterliegen und eine entsprechende redaktionelle Verantwortlichkeit besteht, wird eine ausdrückliche Kennzeichnung daher überwiegend nicht erforderlich sein; gleichwohl sollten Unternehmen klare Prüfprozesse und Zuständigkeiten festlegen und dokumentieren.
Verstehe ich das richtig: Ein komplettes Werbeprospekt oder eine kompletter Werbefilm darf ohne den KI-Hinweis veröffentlicht werden, solange eine menschliche Überprüfung und eine redaktionalle Verantwortlichkeit stattgefunden hat?
Dann finde ich es erstaunlich, dass es solche Hinweise noch so häufig (bei Fotos und Videos) gibt.
Ist das nur Unkenntnis der Verfasser oder gibt es hier nicht vielleicht doch noch weitere Risiken, die in diesem Artikel noch nicht aufgezeigt wurden?
Schwerpunkt dieses Artikels sind die Kennzeichnungspflichten für KI-Texte. Für Werbefilme oder Bilder in Werbeprospekten gelten die Regeln von Art. 50 Abs.4 Uabs.1 KI-VO. Insgesamt ist gerade die Unterscheidung zwischen von KI erzeugten und manipulierten Texten und KI-generierten oder manipulierten Bilder, Audios, Videos entscheidend.