KI-Kennzeichnungspflicht nach Art. 50 KI-VO: Was Unternehmen ab dem 2. August 2026 beachten müssen

Warum gibt es die Kennzeichnungspflicht?

Künstliche Intelligenz erzeugt heute Inhalte, die für Menschen teilweise kaum noch von echten Fotos, Videos, Audiodateien oder menschlich verfassten Texten zu unterscheiden sind. Ziel des Art. 50 KI-VO ist deshalb nicht, den Einsatz von KI grundsätzlich einzuschränken, sondern Transparenz zu schaffen.

Nutzerinnen und Nutzer sollen erkennen können,

• ob sie mit einem KI-System interagieren,
• ob Inhalte künstlich erzeugt oder manipuliert wurden,
• und ob audiovisuelle Inhalte einen sogenannten Deepfake darstellen.

Die Kennzeichnungspflicht soll Täuschungen reduzieren und zugleich das Vertrauen in einen transparenten und verantwortungsvollen Einsatz von Künstlicher Intelligenz stärken.

Welche Fälle regelt Art. 50 KI-VO?

1. Kennzeichnung von Chatbots und KI-Assistenten

Personen, die mit einem KI-System interagieren, müssen grundsätzlich darüber informiert werden, dass sie mit einer Künstlichen Intelligenz kommunizieren.

Dies betrifft beispielsweise:

• Chatbots auf Webseiten,
• virtuelle Assistenten,
• KI-gestützten Kundensupport,
• automatisierte Beratungsdialoge,
• digitale Lernassistenten.

Eine zusätzliche Information kann entbehrlich sein, wenn für eine durchschnittlich informierte und aufmerksame Person aufgrund der Umstände eindeutig erkennbar ist, dass sie mit einem KI-System interagiert.

2. Kennzeichnung KI-generierter Inhalte

Anbieter bestimmter KI-Systeme müssen sicherstellen, dass künstlich erzeugte oder manipulierte Inhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder verändert erkennbar sind.

Dies kann insbesondere folgende Inhalte betreffen:

• KI-generierte Bilder,
• synthetische Audioaufnahmen,
• KI-generierte Videos,
• künstlich erzeugte oder manipulierte Texte.

Diese technische Verpflichtung richtet sich zunächst an die Anbieter der jeweiligen KI-Systeme. Unternehmen, die solche Inhalte veröffentlichen oder verbreiten, müssen zusätzlich prüfen, ob für sie eigene Offenlegungspflichten bestehen.

3. Besondere Regeln für Deepfakes

Wer Bild-, Audio- oder Videoinhalte einsetzt oder veröffentlicht, die einen Deepfake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Als Deepfake gelten Inhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen könnten.

4. KI-generierte Texte zu Themen von öffentlichem Interesse

Eine weitere Transparenzpflicht betrifft KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Dazu können beispielsweise Texte über folgende Themen gehören:

• politische Entwicklungen,
• gesellschaftliche Debatten,
• Gesundheitsinformationen,
• Sicherheitsfragen,
• Umweltthemen,
• Nachrichten und aktuelle Ereignisse.

In diesen Fällen muss offengelegt werden, dass der Text künstlich erzeugt oder manipuliert wurde.

Eine wichtige Ausnahme besteht, wenn der Inhalt einem menschlichen Prüfungs- oder Redaktionsprozess unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

5. Emotionserkennung und biometrische Kategorisierung

Art. 50 KI-VO enthält außerdem Transparenzpflichten für bestimmte Systeme zur Emotionserkennung oder biometrischen Kategorisierung. Betroffene Personen müssen grundsätzlich darüber informiert werden, wenn solche Systeme eingesetzt werden.

Unternehmen sollten beachten, dass für derartige Anwendungen neben den Transparenzpflichten weitere Anforderungen der KI-Verordnung und des Datenschutzrechts gelten können.

Wen betrifft die Regelung?

Die Transparenzpflichten betreffen nicht ausschließlich Entwickler großer KI-Modelle. Auch Unternehmen, Behörden, Bildungseinrichtungen, Agenturen und Vereine können betroffen sein, wenn sie KI-Systeme beruflich einsetzen oder KI-generierte Inhalte veröffentlichen.

Typische betroffene Bereiche sind:

• Marketing und Öffentlichkeitsarbeit,
• Social-Media-Management,
• Kundenservice,
• E-Commerce,
• Personalwesen,
• Aus- und Weiterbildung,
• Unternehmenskommunikation,
• Medienproduktion.

Bereits der Einsatz eines Standardwerkzeugs für Text-, Bild-, Audio- oder Videogenerierung kann eine Prüfung nach Art. 50 KI-VO erforderlich machen.

Wie muss eine KI-Kennzeichnung aussehen?

Die Kennzeichnung muss klar, verständlich und zum Zeitpunkt der ersten Interaktion oder Wahrnehmung erkennbar sein. Eine versteckte Information in langen Nutzungsbedingungen dürfte in der Regel nicht ausreichen.

Mögliche Formulierungen sind beispielsweise:

• „Sie kommunizieren mit einem KI-gestützten Assistenten.“
• „Dieses Bild wurde mithilfe Künstlicher Intelligenz erstellt.“
• „Dieses Video enthält KI-generierte oder manipulierte Inhalte.“
• „Dieser Inhalt wurde teilweise mit Unterstützung eines KI-Systems erstellt.“

Welche Formulierung angemessen ist, hängt vom eingesetzten System, dem Inhalt, dem Veröffentlichungsmedium und der konkreten Rolle des Unternehmens ab.

Muss jeder mit KI erstellte Text gekennzeichnet werden?

Nein. Art. 50 KI-VO führt keine allgemeine Kennzeichnungspflicht für jeden Text ein, bei dessen Erstellung ein KI-System verwendet wurde.

Entscheidend sind insbesondere folgende Fragen:

• Handelt es sich um einen Text zu einer Angelegenheit von öffentlichem Interesse?
• Wurde der Text unmittelbar KI-generiert oder wesentlich durch KI manipuliert?
• Wurde der Inhalt durch einen Menschen fachlich und redaktionell geprüft?
• Wer übernimmt die Verantwortung für die Veröffentlichung?

Ein KI-unterstützter Produkttext, eine interne E-Mail oder eine überarbeitete Unternehmensbeschreibung unterliegt daher nicht automatisch einer gesetzlichen Kennzeichnungspflicht nach Art. 50 KI-VO.

Welche Sanktionen drohen bei Verstößen?

Verstöße gegen bestimmte Pflichten der KI-Verordnung können mit erheblichen Geldbußen geahndet werden. Für Verstöße gegen sonstige Verpflichtungen der KI-Verordnung können grundsätzlich Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – von bis zu 3 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vorgesehen sein.

Maßgeblich sind unter anderem Art, Schwere, Dauer und Folgen des Verstoßes. Bei kleineren und mittleren Unternehmen sind zudem die besonderen Vorgaben der KI-Verordnung zur Verhältnismäßigkeit zu berücksichtigen.

Neben möglichen Geldbußen drohen außerdem Reputationsschäden, Vertrauensverluste und Beschwerden von Kunden oder betroffenen Personen.

Handlungsempfehlungen für Unternehmen

Unternehmen sollten die Kennzeichnungspflichten nicht isoliert betrachten, sondern in ihre bestehende KI-Governance integrieren.

1. KI-Systeme erfassen

   Dokumentieren Sie, welche KI-Systeme und generativen Werkzeuge im Unternehmen eingesetzt werden.

2. Anwendungsfälle bewerten

   Prüfen Sie, ob Chatbots, Deepfakes, KI-generierte Medien oder Texte zu Themen von öffentlichem Interesse betroffen sind.

3. Kennzeichnungsregeln definieren

   Legen Sie fest, wann, wo und mit welcher Formulierung eine Kennzeichnung erfolgen muss.

4. Redaktionelle Prüfung organisieren

   Definieren Sie Verantwortlichkeiten für Prüfung, Freigabe und Veröffentlichung von KI-generierten Inhalten.

5. Prozesse dokumentieren

   Halten Sie nachvollziehbar fest, wie Inhalte erstellt, geprüft, verändert und freigegeben wurden.

6. Mitarbeitende schulen

   Sensibilisieren Sie insbesondere Beschäftigte aus Marketing, Kommunikation, Personalwesen, Kundenservice und Schulungsbereichen.

7. Technische Lösungen prüfen

   Berücksichtigen Sie Metadaten, Wasserzeichen und andere maschinenlesbare Kennzeichnungsmöglichkeiten.

Checkliste zur KI-Kennzeichnungspflicht

Fazit

Mit dem 2. August 2026 erreicht die europäische KI-Verordnung einen wichtigen Meilenstein. Die Transparenzpflichten nach Art. 50 KI-VO können zahlreiche Unternehmen betreffen – unabhängig davon, ob sie selbst KI-Systeme entwickeln oder lediglich bestehende Werkzeuge einsetzen.

Dabei geht es nicht darum, den Einsatz von Künstlicher Intelligenz zu verhindern. Vielmehr soll sichergestellt werden, dass Menschen erkennen können, wann sie mit einem KI-System interagieren und wann Inhalte künstlich erzeugt oder manipuliert wurden.

Unternehmen, die klare Kennzeichnungs- und Freigabeprozesse etablieren, reduzieren nicht nur rechtliche Risiken. Sie schaffen zugleich Transparenz und stärken das Vertrauen ihrer Kunden, Beschäftigten und Geschäftspartner.