Kennzeichnung KI-generierter Inhalte und Deepfakes

Kennzeichnung KI-generierter Inhalte: Was die KI-Verordnung verlangt

Die Kennzeichnung KI-generierter Inhalte ist in der EU seit dem 2.8.2026 eine rechtliche Pflicht. Art. 50 der KI-Verordnung (Verordnung (EU) 2024/1689) legt Transparenzpflichten auf zwei Ebenen fest. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind (Art. 50 Abs. 2 KI-VO). Betreiber, die mit KI Deepfakes erstellen oder Texte erzeugen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass die Inhalte künstlich sind (Art. 50 Abs. 4 KI-VO).

Darüber hinaus müssen Menschen darüber informiert werden, wenn sie mit einem KI-System wie einem Chatbot interagieren (Art. 50 Abs. 1 KI-VO).

Der Digital Omnibus zur KI (Verordnung (EU) 2026/1744) hat Anbietern generativer Systeme, die vor dem 2.8.2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2.12.2026 für die Erfüllung der Kennzeichnungspflicht eingeräumt. Alle anderen Transparenzpflichten gelten dagegen ohne Übergangsfrist. Für deutsche Unternehmen ist die Kennzeichnung KI-generierter Inhalte vor allem in Marketing, Kommunikation, Kundenservice, Medien und Produktentwicklung relevant.

Pflichten der Anbieter: maschinenlesbare Markierung

Anbieter generativer KI-Systeme, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die technischen Lösungen müssen, soweit technisch machbar, wirksam, interoperabel, belastbar und zuverlässig sein, wobei die Art der Inhalte, die Umsetzungskosten und der allgemein anerkannte Stand der Technik zu berücksichtigen sind (Art. 50 Abs. 2 KI-VO). Typische Techniken sind in Bilder, Audio und Video eingebettete Wasserzeichen, kryptografische Metadaten und Herkunftsstandards sowie Erkennungswerkzeuge. Bei Text ist eine belastbare Markierung technisch schwieriger, was die Vorschrift durch ihren Machbarkeitsvorbehalt anerkennt.

Technische Optionen und ihre Grenzen

Keine einzelne Technik deckt jedes denkbare Szenario zuverlässig ab. Sichtbare Wasserzeichen lassen sich durch Zuschneiden leicht entfernen; unsichtbare Wasserzeichen, die in Pixel oder Audiosignale eingebettet sind, überstehen manche Bearbeitungen, aber nicht alle; metadatenbasierte Herkunftsinformationen wie signierte Content Credentials sind aussagekräftig, können aber verloren gehen, wenn Dateien neu gespeichert oder auf Plattformen hochgeladen werden. Anbieter kombinieren daher häufig mehrere Ebenen: ein unsichtbares Wasserzeichen, signierte Metadaten und eine Erkennungsschnittstelle, mit der Dritte prüfen können, ob Inhalte mit dem System des Anbieters erzeugt wurden. Die Dokumentation, warum eine bestimmte Kombination gewählt wurde und wie sie den Stand der Technik widerspiegelt, ist der beste Nachweis der Einhaltung, wenn eine Behörde nachfragt.

Für Unternehmen, die generative Modelle Dritter in eigene Produkte integrieren, stellt sich die Frage, wer Anbieter des generativen Systems ist. Bringt das Unternehmen das System unter eigenem Namen in Verkehr, ist es für die Markierung verantwortlich, auch wenn das zugrunde liegende Modell von einem Zulieferer stammt, und es sollte den Zulieferer vertraglich verpflichten, Markierungsfunktionen bereitzustellen. Die Kennzeichnung KI-generierter Inhalte wird dann Teil der Produktspezifikation und nicht erst eine nachgelagerte Marketingentscheidung.

Die Pflicht gilt nicht, soweit das KI-System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die vom Betreiber bereitgestellten Eingabedaten oder deren Bedeutung nicht wesentlich verändert. Rechtschreib- und Grammatikkorrekturen, einfache Bildverbesserungen oder Formatumwandlungen sind daher in der Regel nicht erfasst.

Pflichten der Betreiber: Deepfakes und Texte von öffentlichem Interesse

Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde (Art. 3 Nr. 60 KI-VO). Betreiber, die solche Inhalte erzeugen oder manipulieren, müssen offenlegen, dass sie künstlich sind. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, beschränkt sich die Offenlegungspflicht darauf, das Vorhandensein erzeugter oder manipulierter Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Betreiber, die mit KI Texte erzeugen oder manipulieren, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen dies offenlegen, es sei denn, die Inhalte wurden einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung (Art. 50 Abs. 4 KI-VO). Diese Ausnahme ist für Verlage und Teams der Unternehmenskommunikation mit einem redaktionellen Prozess wichtig.

Typische Szenarien aus der Unternehmenspraxis

Mehrere alltägliche Anwendungen in Unternehmen werfen ganz konkret die Frage der Offenlegung auf. Ein synthetischer Sprecher in einem Werbevideo, der wie ein echter Mensch aussieht, ist wahrscheinlich ein Deepfake, wenn Zuschauer ihn für authentische Aufnahmen einer realen Person halten würden. KI-generierte Bilder eines Produkts in einer realistischen Umgebung können erfasst sein, wenn sie fälschlicherweise authentisch erscheinen.

Bei Stimmklonen in Kundenservice-Hotlines treffen die Chatbot-Offenlegung nach Art. 50 Abs. 1 KI-VO und die Deepfake-Regeln zusammen, wenn die Stimme einer realen Person nachgeahmt wird. Deutlich stilisierte Illustrationen, Icons oder offensichtlich fiktionale Szenen sind dagegen keine Deepfakes. Die Kennzeichnung KI-generierter Inhalte ist in Grenzfällen oft die wirtschaftlich sicherere Wahl, weil ein kurzer Hinweis der Botschaft selten schadet, eine fehlende Offenlegung aber Vertrauen beschädigen kann.

Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung klar und eindeutig bereitgestellt werden und den Barrierefreiheitsanforderungen entsprechen (Art. 50 Abs. 5 KI-VO).

Kennzeichnung KI-generierter Inhalte in Werbung und auf Online-Plattformen

Die Kennzeichnung KI-generierter Inhalte ist nicht nur eine Frage der KI-Verordnung. Nach dem Gesetz gegen den unlauteren Wettbewerb (UWG) kann Werbung, die einen falschen Eindruck erweckt – etwa synthetische Produktbilder, die Eigenschaften zeigen, die das Produkt nicht hat, oder erfundene Kundenbewertungen –, nach § 5 UWG irreführend sein, und das Vorenthalten wesentlicher Informationen kann eine Irreführung durch Unterlassen nach § 5a UWG darstellen. KI-generierte Influencer und virtuelle Markenbotschafter werfen ähnliche Fragen zu kommerziellem Zweck und Authentizität auf. Siehe unsere Beiträge zu AI-Washing und zum Influencer-Marketing.

Sehr große Online-Plattformen und Suchmaschinen müssen im Rahmen ihrer Risikominderung nach dem Digital Services Act sicherstellen, dass erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten oder Ereignissen merklich ähneln und fälschlicherweise als echt erscheinen, durch auffällige Kennzeichnungen erkennbar sind (Art. 35 Abs. 1 lit. k DSA). Viele Plattformen verpflichten Ersteller zudem in ihren Nutzungsbedingungen, KI-Inhalte zu kennzeichnen, und nicht gekennzeichnete Inhalte können nach diesen Bedingungen entfernt oder herabgestuft werden. Unternehmen, die in sozialen Medien veröffentlichen, sollten daher sowohl die rechtlichen Vorgaben als auch die Plattformregeln prüfen.

Persönlichkeitsrechte und Deepfakes in Deutschland

Deepfakes, die reale Personen darstellen, können unabhängig von einer Kennzeichnung Persönlichkeitsrechte verletzen. Nach § 22 des Gesetzes betreffend das Urheberrecht an Werken der bildenden Künste und der Photographie (Kunsturhebergesetz, KUG) dürfen Bildnisse einer Person grundsätzlich nur mit Einwilligung verbreitet werden, vorbehaltlich der Ausnahmen in § 23 KUG. Das allgemeine Persönlichkeitsrecht schützt vor der falschen Zuschreibung von Äußerungen und Verhaltensweisen. Eine Kennzeichnung nach Art. 50 Abs. 4 KI-VO legitimiert keinen Deepfake, der diese Rechte verletzt; sie ist eine zusätzliche Pflicht.

Betroffene Personen können in solchen Fällen Unterlassung und in schweren Fällen auch Schadensersatz verlangen. Synthetische Stimmen realer Personen werfen vergleichbare rechtliche Fragen auf. Auch das Strafrecht kann berührt sein, etwa durch Beleidigungsdelikte oder Straftaten gegen den höchstpersönlichen Lebensbereich.

Ab dem 2.12.2026 verbietet der Digital Omnibus KI-Systeme, die realistische intime Bilder, Videos oder Audioinhalte identifizierbarer Personen ohne deren ausdrückliche Einwilligung erzeugen oder manipulieren, sowie Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen (Art. 5 Abs. 1 lit. ba und bb KI-VO in der geänderten Fassung). Diese Verbote gelten für Anbieter und Betreiber und sind mit den höchsten Geldbußen bewehrt.

Praxisleitfäden, Durchsetzung und Bußgelder

Die Kommission soll die Ausarbeitung von Praxisleitfäden auf Unionsebene zur Erkennung, Markierung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte fördern und erleichtern (Art. 50 Abs. 7 KI-VO in der durch den Digital Omnibus geänderten Fassung). Solche Leitfäden können Anbietern und Betreibern bei der Umsetzung der Pflichten helfen, begründen aber, wie die Erwägungsgründe des Digital Omnibus festhalten, für sich genommen keine Konformitätsvermutung.

Verstöße gegen die Transparenzpflichten des Art. 50 KI-VO können mit Geldbußen von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist, mit niedrigeren Obergrenzen für KMU (Art. 99 Abs. 4 lit. g KI-VO). In Deutschland ist die Bundesnetzagentur nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) vom 22.7.2026 die zentrale Marktüberwachungsbehörde. Für Anbieter von KI-Systemen, die auf eigenen KI-Modellen mit allgemeinem Verwendungszweck beruhen, kann das KI-Büro zuständig sein. Wettbewerber und Verbraucherverbände können irreführende KI-Inhalte zudem nach dem UWG verfolgen. Siehe unseren Beitrag zum Zeitplan der KI-Verordnung.

Eine Compliance-Checkliste

1. Ermitteln Sie, wo das Unternehmen generative KI anbietet (etwa in Produkten oder kundenorientierten Tools) und wo es KI zur Erstellung von Inhalten einsetzt.
2. Setzen Sie für angebotene Systeme eine maschinenlesbare Markierung um und dokumentieren Sie die technischen Entscheidungen; schließen Sie dies für Systeme, die vor dem 2.8.2026 in Verkehr gebracht wurden, bis zum 2.12.2026 ab.
3. Verabschieden Sie eine Content-Richtlinie, die Deepfakes, Texte von öffentlichem Interesse, die redaktionelle Prüfung sowie Form und Platzierung von Kennzeichnungen regelt.
4. Informieren Sie Nutzer von Chatbots und Sprachassistenten darüber, dass sie mit KI interagieren.
5. Prüfen Sie Persönlichkeitsrechte und Einwilligungen bei jeder Darstellung realer Personen, auch von Beschäftigten.
6. Überprüfen Sie Werbung auf irreführende Wirkungen nach dem UWG.
7. Schulen Sie Mitarbeitende in Kommunikation und Marketing und dokumentieren Sie die Schulungen.

Die Verantwortung für die Kennzeichnung KI-generierter Inhalte sollte im Unternehmen klar verteilt sein. In vielen Unternehmen ist die Produkt- oder IT-Funktion für die Anbieterpflichten bei generativen Funktionen zuständig, während Marketing und Kommunikation die Offenlegungen als Betreiber verantworten. Recht und Compliance sollten die Richtlinie festlegen, Grenzfälle prüfen und die sich entwickelnden Leitlinien der Kommission und der Bundesnetzagentur verfolgen. Verträge mit Agenturen, die Inhalte für das Unternehmen produzieren, sollten die Offenlegung des KI-Einsatzes und die Einhaltung der Kennzeichnungsrichtlinie des Unternehmens verlangen, denn das Unternehmen, das die Inhalte unter seinem Namen veröffentlicht, wird von Behörden, Wettbewerbern und der Öffentlichkeit in der Regel als verantwortlich angesehen, gleichgültig, welche Partei das KI-Tool technisch bedient hat.

So unterstützt TRW & Co bei der Kennzeichnung KI-generierter Inhalte

Wir beraten Unternehmen zur Kennzeichnung KI-generierter Inhalte nach Art. 50 KI-VO, einschließlich Markierungslösungen für generative KI-Produkte, Content- und Redaktionsrichtlinien, Chatbot-Hinweisen und des Zusammenspiels mit dem Lauterkeitsrecht und den Plattformregeln. Wir vertreten außerdem Unternehmen und Einzelpersonen gegen rechtswidrige Deepfakes und irreführende KI-Werbung. Siehe unsere Seiten zur KI-Verordnung und zu digitalen Plattformen und dem DSA oder kontaktieren Sie uns.