KI-Inhalte richtig kennzeichnen (Art. 50 KI-VO): Welche Pflichten gelten ab August 2026

Künstliche Intelligenz wird inzwischen in nahezu allen Bereichen der Unternehmenskommunikation eingesetzt. Marketingabteilungen erstellen Bilder mit KI-Generatoren, Social-Media-Teams bearbeiten Videos, Agenturen produzieren synthetische Stimmen und Mitarbeitende lassen Texte von Sprachmodellen wie ChatGPT formulieren oder überarbeiten.

Mit dem allgemeinen Geltungsbeginn der EU-KI-Verordnung am 2. August 2026 treten nun auch die Transparenzpflichten aus Art. 50 KI-VO in den Mittelpunkt. Häufig wird daraus jedoch vorschnell geschlossen, künftig müsse jeder Inhalt gekennzeichnet werden, bei dessen Erstellung künstliche Intelligenz beteiligt war.

Die KI-Verordnung enthält jedoch keine allgemeine Pflicht, jeden KI-unterstützten Inhalt als solchen zu kennzeichnen. Entscheidend sind vielmehr die Rolle des Unternehmens, die Art des verwendeten KI-Systems, der Inhalt der Veröffentlichung und die Frage, ob der Inhalt geeignet ist, beim Publikum einen unzutreffenden Eindruck von Authentizität zu erwecken.  Umso wichtiger ist es, sich den jeweiligen Einzelfall genau anzusehen. Die Vorschrift des Art. 50 KI-VO und die Anforderungen an die Kennzeichnung von KI-generierten Inhalten  gelten ab dem 2. August 2026; die Europäische Kommission hat hierzu am 20. Juli 2026 finale Leitlinien veröffentlicht.

Anbieter und Betreiber müssen unterschieden werden

Art. 50 KI-VO unterscheidet zwischen Anbietern und Betreibern eines KI-Systems. Diese Unterscheidung ist entscheidend, weil beide Gruppen unterschiedliche Pflichten treffen.

Anbieter ist insbesondere, wer ein KI-System entwickelt oder entwickeln lässt und es unter dem eigenen Namen oder der eigenen Marke auf den Markt bringt oder in Betrieb nimmt. Betreiber ist dagegen eine natürliche oder juristische Person, die das KI-System in eigener Verantwortung verwendet. Die ausschließlich persönliche und nicht berufliche Nutzung ist ausgenommen.

Ein Unternehmen, das ChatGPT, Microsoft Copilot oder einen Bildgenerator für seine Kommunikation verwendet, ist deshalb regelmäßig Betreiber. Entwickelt es dagegen einen eigenen KI-Chatbot oder bietet ein fremdes System unter der eigenen Marke an, kann es zusätzlich oder stattdessen als Anbieter einzustufen sein.

Anbieter generativer KI-Systeme müssen nach Art. 50 Abs. 2 KI-VO grundsätzlich dafür sorgen, dass synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Betreiber müssen demgegenüber vor allem bestimmte Inhalte sichtbar gegenüber den betroffenen Personen offenlegen.

Welche KI-Inhalte müssen Unternehmen kennzeichnen?

Für Unternehmen als Betreiber sind insbesondere zwei Fallgruppen relevant:

1. durch KI erzeugte oder manipulierte Deepfakes;
2. bestimmte KI-generierte oder KI-manipulierte Texte zu Angelegenheiten von öffentlichem Interesse.

Daneben bestehen besondere Informationspflichten beim Einsatz von Emotionserkennungssystemen und Systemen zur biometrischen Kategorisierung. Diese Anwendungsfälle spielen in der gewöhnlichen Unternehmenskommunikation jedoch regelmäßig eine geringere Rolle.

Wann liegt ein kennzeichnungspflichtiger Deepfake vor?

Die KI-Verordnung definiert einen Deepfake als einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Die Definition befindet sich in Art. 3 Nr. 60 KI-VO.

Deepfakes beschränken sich damit nicht auf gefälschte Videos von Politikern oder Prominenten. Auch unternehmensbezogene Inhalte können erfasst sein, beispielsweise:

• eine synthetisch nachgebildete Stimme eines Geschäftsführers;
• ein Foto, in das eine tatsächlich nicht anwesende Person eingefügt wurde;
• ein KI-generiertes Video eines Ereignisses, das nicht stattgefunden hat;
• eine reale Immobilie, die mithilfe von KI virtuell eingerichtet wird;
• ein tatsächlich vorhandenes Produkt, dessen Eigenschaften durch KI wesentlich verändert dargestellt werden.

Die Europäische Kommission nennt unter anderem das KI-gestützte virtuelle Einrichten einer authentisch fotografierten, tatsächlich aber leeren Wohnung als Beispiel für einen teilweise durch KI veränderten Inhalt.

Entscheidend ist nicht allein, ob KI verwendet wurde. Der Inhalt muss vielmehr geeignet sein, bei den betrachtenden Personen den falschen Eindruck zu erwecken, die Darstellung sei authentisch oder wahrheitsgemäß.

Nicht jede Bildbearbeitung ist ein Deepfake

Eine bloße technische oder gestalterische Optimierung führt nicht automatisch zu einer Kennzeichnungspflicht. Übliche Korrekturen wie ein geringfügiger Zuschnitt, eine Helligkeitsanpassung, eine Rauschreduzierung oder eine Formatumwandlung verändern regelmäßig nicht den Aussagegehalt des Inhalts.

Anders kann es sein, wenn Personen oder Gegenstände hinzugefügt oder entfernt, Gesichter ausgetauscht, Stimmen nachgebildet oder Ereignisse dargestellt werden, die tatsächlich nicht stattgefunden haben. Die finalen Kommissionsleitlinien unterscheiden deshalb unter anderem zwischen Standardbearbeitungen und inhaltlich relevanten Veränderungen.

Bei Grenzfällen sollte nicht allein auf das verwendete Werkzeug abgestellt werden. Maßgeblich sind Inhalt, Kontext, Wahrnehmung des Publikums und die konkrete Veränderung der Realitätswirkung. Auch hier entscheidet letztlich der konkret zu prüfende Einzelfall.

Müssen KI-generierte Texte gekennzeichnet werden?

Auch bei Texten besteht keine pauschale Kennzeichnungspflicht.

Nach Art. 50 Abs. 4 KI-VO muss ein Betreiber offenlegen, dass ein Text künstlich erzeugt oder manipuliert wurde, wenn der Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.

Damit müssen mehrere Voraussetzungen zusammenkommen:

• Der Text wurde durch ein KI-System erzeugt oder manipuliert.
• Der Text wird veröffentlicht.
• Mit der Veröffentlichung soll die Öffentlichkeit informiert werden.
• Der Gegenstand betrifft eine Angelegenheit von öffentlichem Interesse.

Interne E-Mails, Gesprächsnotizen, Entwürfe oder ausschließlich unternehmensinterne Berichte werden bereits mangels Veröffentlichung regelmäßig nicht erfasst.

Auch gewöhnliche Produktbeschreibungen oder rein verkaufsbezogene Werbetexte sind nicht allein deshalb kennzeichnungspflichtig, weil ein Sprachmodell an ihrer Erstellung beteiligt war.

Anders kann die Bewertung bei politischen Stellungnahmen, öffentlichen Warnhinweisen, gesellschaftlich relevanten Unternehmensmitteilungen, Veröffentlichungen zur öffentlichen Sicherheit oder anderen Themen ausfallen, die über ein rein privates oder absatzbezogenes Interesse hinausgehen.

Die Einordnung hängt vom Thema, Zweck, angesprochenen Personenkreis und Veröffentlichungskontext ab.

Ausnahme bei menschlicher Prüfung und redaktioneller Verantwortung

Für Unternehmen besonders wichtig ist die Ausnahme in Art. 50 Abs. 4 KI-VO.

Eine Kennzeichnung ist bei Texten zu Angelegenheiten von öffentlichem Interesse nicht erforderlich, wenn

• der KI-generierte Inhalt ein Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle durchlaufen hat und
• eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Unternehmen können KI daher weiterhin als Hilfsmittel für Pressemitteilungen, Fachbeiträge, Stellungnahmen oder Informationsseiten einsetzen, ohne jeden Text zwingend als KI-generiert kennzeichnen zu müssen. Erforderlich ist jedoch eine tatsächliche inhaltliche Prüfung und eine nachvollziehbare Übernahme der redaktionellen Verantwortung.

Ein rein formaler Freigabeklick dürfte hierfür aus Compliance-Sicht nicht genügen.

Die Prüfung sollte insbesondere erfassen, ob der Text sachlich richtig, rechtlich vertretbar, vollständig, verständlich und frei von irreführenden Aussagen oder erfundenen Quellen ist. Der Prüfprozess sollte außerdem intern dokumentiert werden.

Wie muss die Kennzeichnung gestaltet werden?

Die Information muss den betroffenen Personen nach Art. 50 Abs. 5 KI-VO spätestens zum Zeitpunkt der ersten Interaktion oder der ersten Aussetzung gegenüber dem Inhalt klar und eindeutig bereitgestellt werden.

Außerdem müssen die geltenden Anforderungen an die Barrierefreiheit eingehalten werden. Zu berücksichtigen ist dabei insbesondere das Barrierefreiheitsstärkungsgesetz (BFSG), das für den barrierefreien Zugang zu Produkten und Dienstleistungen sorgt. Es setzt den European Accessibility Act (EAA) in Deutschland um und gilt verbindlich seit dem 28. Juni 2025.

Die jeweils anwendbaren Barrierefreiheitsanforderungen sind zu beachten. Je nach betroffenem Produkt oder betroffener Dienstleistung kann hierzu auch das Barrierefreiheitsstärkungsgesetz gehören. Art. 50 KI-VO führt jedoch nicht dazu, dass das BFSG pauschal auf jede Veröffentlichung anwendbar wird.

Mehr dazu in unserem Beitrag: „BFSG 2025 – Was Unternehmen jetzt beachten müssen“

Ein allgemeiner Hinweis im Impressum, in den Allgemeinen Geschäftsbedingungen oder in einer Social-Media-Biografie dürfte deshalb regelmäßig nicht ausreichen. Die Kennzeichnung muss dem konkreten Inhalt zugeordnet und bei dessen erstmaliger Wahrnehmung erkennbar sein.

Je nach Medium kommen beispielsweise folgende Hinweise in Betracht:

„Dieses Bild wurde mithilfe künstlicher Intelligenz erzeugt.“

„Diese Aufnahme wurde mithilfe künstlicher Intelligenz verändert.“

„Die in diesem Video verwendete Stimme wurde künstlich erzeugt.“

„Dieser Text wurde durch ein KI-System erstellt und keiner menschlichen redaktionellen Prüfung unterzogen.“

Bei Videos kann eine Einblendung zu Beginn erforderlich sein. Bei Audioinhalten kann ein hörbarer Hinweis notwendig werden.

Bei Bildern sollte die Kennzeichnung unmittelbar auf dem Bild oder als deutlich sichtbares Overlay erscheinen.

Auch bei einer Weitergabe oder einem Download sollte der Hinweis möglichst erhalten bleiben.

Müssen die neuen EU-Symbole verwendet werden?

Die Europäische Kommission stellt mittlerweile eigene Symbole für vollständig KI-generierte, teilweise KI-veränderte und sonstige KI-unterstützte Inhalte bereit.

Die Verwendung dieser Symbole ist freiwillig. Freiwillig ist jedoch nur die Verwendung des konkreten EU-Symbols, nicht die gesetzliche Kennzeichnungspflicht.

Unternehmen dürfen daher auch eigene verständliche Hinweise verwenden, sofern diese die Anforderungen aus Art. 50 KI-VO erfüllen. Das bloße Einfügen eines EU-Symbols beweist umgekehrt noch nicht automatisch die vollständige Rechtskonformität.

Die EU empfiehlt, Symbole deutlich wahrnehmbar und möglichst unmittelbar in den Inhalt einzubetten. Begleitende Texte sollten in verständlicher Sprache formuliert und für unterstützende Technologien zugänglich sein.

Kunst, Satire und Fiktion sind nicht vollständig ausgenommen

Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke gilt eine Erleichterung. Die Offenlegung darf so gestaltet werden, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Eine vollständige Befreiung enthält die KI-Verordnung jedoch nicht. Auch bei einem satirischen Video oder einem fiktionalen Werk muss das Vorhandensein künstlich erzeugter oder manipulierter Inhalte grundsätzlich in geeigneter Weise offengelegt werden.

Welche Bußgelder drohen bei Verstößen?

Verstöße gegen die Transparenzpflichten aus Art. 50 KI-VO können nach Art. 99 Abs. 4 KI-VO mit Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu drei Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden. Maßgeblich ist grundsätzlich der höhere Betrag.

Für kleine und mittlere Unternehmen einschließlich Start-ups gilt dagegen der jeweils niedrigere Betrag aus dem festen Höchstbetrag und dem prozentualen Höchstbetrag. Bei der konkreten Bemessung sind unter anderem Art, Schwere und Dauer des Verstoßes, die Unternehmensgröße, der Grad der Verantwortung und die Zusammenarbeit mit den Behörden zu berücksichtigen.

Neben behördlichen Sanktionen können weitere Risiken entstehen. Denkbar sind insbesondere wettbewerbsrechtliche Beanstandungen, Ansprüche wegen irreführender Werbung, Verletzungen von Persönlichkeitsrechten oder Konflikte mit Plattformregeln. Die Kennzeichnung nach Art. 50 KI-VO ersetzt daher keine Prüfung nach anderen Vorschriften.

Was Unternehmen jetzt tun sollten: Unternehmen sollten jetzt einen verbindlichen Kennzeichnungsprozess einführen und bestehende Prozesse prüfen

Unternehmen sollten nicht mit einer undifferenzierten Regel arbeiten, nach der ausnahmslos jeder KI-Inhalt gekennzeichnet wird.

Erforderlich ist vielmehr ein nachvollziehbarer Prüfprozess.

In einem ersten Schritt sollte erfasst werden, in welchen Abteilungen generative KI eingesetzt wird und welche Inhalte damit erstellt oder verändert werden.

Anschließend sollte zwischen internen Inhalten, gewöhnlicher Unternehmenskommunikation, Veröffentlichungen zu Angelegenheiten von öffentlichem Interesse und potenziellen Deepfakes unterschieden werden.

Ergänzend sollten Unternehmen festlegen:

• wer über eine Kennzeichnung entscheidet,
• welche Standardhinweise verwendet werden,
• wie die menschliche Prüfung von Texten dokumentiert wird,
• wer die redaktionelle Verantwortung übernimmt und
• wie Kennzeichnungen bei Weitergabe, Download oder Veröffentlichung erhalten bleiben.

Die Vorgaben sollten Bestandteil einer unternehmensinternen KI-Richtlinie und der Schulung der betroffenen Beschäftigten sein.

Je nach Umfang des KI-Einsatzes kann außerdem die Benennung einer zentral zuständigen Person oder eines KI-Beauftragten sinnvoll sein. Mehr dazu erläutern wir in unserem Beitrag „Warum Unternehmen einen KI-Beauftragten brauchen“.

BTL Rechtsanwälte unterstützen Unternehmen bei der rechtlichen Einordnung ihrer KI-Anwendungen, der Erstellung von KI-Richtlinien, der Ausgestaltung von Freigabe- und Kennzeichnungsprozessen sowie bei der Umsetzung der Anforderungen aus der EU-KI-Verordnung.

Dazu gehören auch KI-GAP-Analysen, Schulungen und die Prüfung konkreter Marketing-, Kommunikations- und Veröffentlichungsprozesse.