Kennzeichnungspflicht nach Art. 50 Abs. 4 AI Act

Die hiesigen Ausführungen sind als Interpretationshilfe zu den am 22.07.2026 von der EU-Kommission veröffentlichten Guidelines zu verstehen. Die Guidelines sind hier aufrufbar: https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems

Die EU-Guidelines selbst haben keine rechtsverbindliche Wirkung, dienen Gerichten und Rechtsanwendern aber oftmals als Auslegungshilfe. Andere Rechtsauffassungen sind dennoch durchaus denkbar. Insofern bietet auch dieses Papier keine Rechtssicherheit. Es ersetzt keine Beratung im Einzelfall und erhebt keinen Anspruch auf Vollständigkeit.

 

Allgemeine Erläuterungen

 

1. Auslegung der Definition „Deepfake“

Der AI Act geht ausdrücklich von einem risikobasierten Ansatz aus und zielt auf konkrete Gefährdungslagen ab. Diese Zielrichtung des AI Acts findet bei der Auslegung der Deepfake-Definition im E-Commerce Bereich ebenfalls Berücksichtigung.

Laut 6.1.1. der EU-Guidelines müssen bei der Frage, ob ein Deepfake vorliegt, wie folgt vorgegangen werden:

Zur Klärung des Begriffs „Deepfake“ werden im Folgenden vier kumulative Kriterien aus dieser Definition untersucht:

1. Ähnlichkeit mit
2. existierenden
3. Personen, Objekten, Orten, Einrichtungen oder Ereignissen,
4. die einer Person fälschlicherweise als authentisch oder wahrhaftig erscheinen würden.

Die Definition legt fest, dass der Inhalt „einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen muss“. Dieses Kriterium muss im Lichte des ausdrücklichen Ziels des KI-Gesetzes ausgelegt werden: die Minderung des Risikos von Fehlinformationen und Manipulation, Betrug, Identitätsdiebstahl und Täuschung (Erwägungsgrund 133). Wo weder eine Absicht noch ein nennenswertes Risiko von Manipulation, Betrug oder Identitätsdiebstahl vorliegt, können solche Inhalte rechtlich und logisch nicht als Deepfake eingestuft werden.

2. Werbung und „Deepfakes“

Die deutsche Journalistin Bettina Gaus fasste 2019 Werbung zutreffend wie folgt zusammen:

“Werbung will Aufmerksamkeit erregen, überraschen, manchmal belustigen, manchmal provozieren, manchmal   sogar verstören. Werbung bildet nicht die Realität ab.”

Werbung arbeitet seit jeher mit Inszenierung und Bildbearbeitung. Rechtlich relevant wird dies erst, wenn Verbraucher über wesentliche Produkteigenschaften getäuscht werden. Es ist daher nicht ersichtlich, weshalb eine Bearbeitung mit Photoshop keiner Kennzeichnung bedarf, eine KI-gestützte Bearbeitung hingegen schon.

Auf Wikipedia wird zudem zutreffend festgestellt:

 “Es gehört zum betriebs- und volkswirtschaftlichen Standardwissen, dass die Werbung ein Standbein der  wachstumsorientierten, freiheitlich-kapitalistischen Wirtschaft sein kann.”

Vor diesem Hintergrund sowie angesichts der Verbrauchererwartungen und des Schutzzwecks der Deepfake-Regelung sollte diese im Werbekontext nur sehr restriktiv angewendet werden.

Im E-Commerce besteht regelmäßig kein relevantes Täuschungsrisiko. Ziel eines Online-Shops ist die Anbahnung einer kommerziellen Transaktion, nicht die sachliche Berichterstattung. Verbraucher konzentrieren sich auf die Produkteigenschaften, etwa Farbe oder Passform. Aspekte wie das konkrete Model oder der Produkthintergrund sind für die Kaufentscheidung regelmäßig unerheblich, solange das Produkt wahrheitsgetreu dargestellt wird. Ob ein Produkt fotografisch aufgenommen oder digital erzeugt wurde, ist daher grundsätzlich irrelevant, sofern die Darstellung wahrheitsgetreu ist.

3. Überkennzeichnung führt zu „Label fatigue“

 

 

Eine übermäßige Kennzeichnung führt zum massiven Fehlverständnisses bei den Verbrauchern. Mit dem pauschalen Hinweis „Mit KI erstellt“ ist nicht erkennbar, welcher Teil des Bildes tatsächlich mit KI generiert wurde – wurde das gesamte Bild mit KI generiert, der Hintergrund angepasst oder wurden nur  Farbkorrekturen vorgenommen?

Diese Kennzeichnung führt bei Verbrauchern zu Verunsicherungen. Der AI Act sollte dazu dienen, Verbraucher vor Manipulation, Betrug, etc. zu schützen, nicht hingegen dazu, sie beim Einkauf zu verunsichern.

4. Ort der Kennzeichnung

Art. 50 Abs. 5 AI Act gibt vor, dass die Kennzeichnung den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden.

Die Kennzeichnung gilt als deutlich erkennbar, wenn sie sich leicht von anderen Informationen und dem Kontext, in dem der Inhalt präsentiert wird, unterscheiden lässt. Lediglich für offensichtlich künstlerische, kreative oder analoge Werke sieht Art. 50 Abs. 4S. 3 AI Act vor, dass die Kennzeichnung die Darstellung oder den Genuss des Werks nicht beeinträchtigt soll. Im Umkehrschluss ist davon auszugehen, dass bei anderen KI-Inhalten die Kennzeichnung am sinnvollsten unmittelbar am Inhalt bzw. in dessen unmittelbarem Umfeld anzubringen ist.

Die Kennzeichnung unter mehreren Ebenen von Menüoptionen auf einer Online-Oberfläche oder in Nutzungsbedingungen zu verbergen, entspricht nicht einer klaren und eindeutigen Bereitstellung.

Zu den weiteren Details wird auf Abschnitt 7 in den EU-Guidelines verwiesen.

5. Nachteil redlicher handelnder Unternehmen

Eine übermäßige Kennzeichnung führt zum massiven Fehlverständnisses bei den Verbrauchern. Die Folge: Insbesondere außereuropäische Unternehmen werden keine Kennzeichnung vornehmen. Die Durchsetzung wird jedoch wiederum ausschließlich auf europäischer Ebene erfolgen. Unternehmen, die keine Kennzeichnung vornehmen, werden als „authentischer“ wahrgenommen. Redlich handelnde (europäische) Unternehmen erleiden dadurch einen Wettbewerbsnachteil und werden von Verbrauchern als unglaubwürdig eingeordnet.

6. Konkrete Beispiele aus dem e-Commerce Bereich

1. Konstellation: das gesamte Bild ist von vorneherein KI generiert

KI-erstelltes BildBewertung

Kein Deepfake

1. Ähnlichkeit: Ja, es besteht eine Ähnlichkeit zwischen dem dargestellten Motiv und dem KI-generierten Objekt (der echt existierenden Creme)

2. Mit existierenden: Ja, das KI-generierte Objekt ähnelt etwas, das tatsächlich existiert.

3. Objekten: Ja, bei dem Produkt handelt es sich um ein reales Objekt

4. Falscher Authentizitätseindruck:  Nein. Es handelt sich um eine Produktdarstellung, wobei das Produkt wahrheitsgetreu - und nicht falsch - wiedergegeben wird.

Kein Deepfake

Person:

1. Ähnlichkeit: Ja

2. Mit existierenden: Ja, das Model ähnelt existierenden Personen

3. Personen: Ja, laut EU-Guideline fallen auch KI-generierte Personen unter “wirkliche Personen“ im Sinne der Deepfake-Definition

4. falscher Authentizitätseindruck:  Nein. Unter Berücksichtigung des Verwendungszwecks (Präsentation der Kleidung) ist es für den Verbraucher unerheblich ist, ob es sich um ein echtes oder ein KI-Model handelt, sofern nicht über die tatsächliche Darstellung des Produkts sowie dessen Eigenschaften und Verwendung irregeführt wird

Ort:

1. Ähnlichkeit: Ja

2. Mit existierenden: eher nein, da dieser unspezifische illustrative Hintergrund keine wesentliche Quelle für Täuschung, Manipulation und Desinformation ist.

3. Orten: eher nein, die unspezifische Darstellung eines Raums ist nicht als realistischer Schauplatz zu verstehen.

4. falscher Authentizitätseindruck:  Nein. Unter Berücksichtigung des Verwendungszwecks (Präsentation der Kleidung) ist es für den Verbraucher unerheblich ist, ob der Hintergrund mit Photoshop oder KI erstellt wurde.

Objekte (Kleidung):

Nein, vgl. vorheriges Beispiel

 

2. Konstellation: das Ausgangsbild (linke Spalte) ist ein echtes Foto und wird im Nachgang mit KI bearbeitet (rechte Spalte)

Echtes FotoKI-ÜberarbeitungBewertung

Objekt (Creme)

Kein Deepfake, vgl. Folie 10

Objekte/ Ort (Hintergrund)

1. Ähnlichkeit: Ja

2. Mit existierenden: eher nein, da dieser unspezifische illustrative Hintergrund keine wesentliche Quelle für eine Täuschung ist

3. Orten: nein, die unspezifische Darstellung eines Raums ist nicht als realistischer Schauplatz zu verstehen

4. falscher Authentizitätseindruck:  Nein. DasErsetzen von Hintergründen aus eindeutig ästhetischen Gründen hat in Produktwerbung nur einen geringen Einfluss auf die Wahrnehmung der Authentizität und Wahrhaftigkeit der Werbung und des Produkts durch eine Person (vgl. Rnd. 116 der EU-Guidelines)

Kein Deepfake

Person:

Kein Deepfake, vgl. obiges Beispiel

Objekte (Kleidung):

1. Ähnlichkeit: Ja

2. Mit existierenden: Ja, die abgebildete Kleidung gleicht tatsächlich existierender Kleidung

3. Objekten: Ja, bei der Kleidung handelt es sich um reale Objekte

4. falscher Authentizitätseindruck:  Nein. Es handelt sich um eine Produktdarstellung, wobei die Kleidung wahrheitsgetreu wiedergegeben wird.

Kein Deepfake

Person:

Kein Deepfake, vgl. oben

Objekt (Kleidung):

Kein Deepfake, vgl. oben

Ort:

1. Ähnlichkeit: Ja

2. Mit existierenden: eher nein, das Motiv ähnelt zwar einem Ort, der existieren könnte, allerdings ist diese konkrete Verwendung keine wesentliche Quelle für Täuschung, Manipulation oder Desinformation (vgl. Rnd. 113 ii) der EU-Guidelines)

3. Orten: ja, die Darstellung des Raums kann als realistischer Schauplatz zu verstehen sein

4. falscher Authentizitätseindruck:  Nein. Der KI-Hintergrund führt nicht irre über die tatsächliche Darstellung des Produkts sowie dessen Eigenschaften und Verwendung (vgl. letztes Beispiel auf S. 35 der EU-Guidelines).

Kein Deepfake

Person:

Kein Deepfake, vgl. oben

Objekt (Kleidung):

Kein Deepfake, vgl. oben

Ort:

1. Ähnlichkeit: Ja

2. Mit existierenden: ja, da die Gebäude im Hintergrund können eine Quelle für Täuschung über den Ort sein

3. Orten: ja, die Gebäude im Hintergrund können als realistischer Schauplatz (Paris)  zu verstehen sein

4. falscher Authentizitätseindruck:  Nein. Unter Berücksichtigung des Verwendungszwecks (Präsentation der Kleidung) ist es für den Verbraucher unerheblich ist, ob der Hintergrund mit Photoshop oder KI erstellt wurde (vgl. letztes Beispiel auf S. 35 der EU-Guidelines).

Deepfake

Person:

1. Ähnlichkeit: Ja

2. Mit existierenden: Ja, das Model ähnelt einer tatsächlich existierenden Person

3. Personen: Ja, die abgebildete Person ähnelt einer tatsächlich identifizierbaren Person (Heidi Klum)

4. falscher Authentizitätseindruck:  Ja, sofern der (unzutreffende) Eindruck erweckt wird, dass Heidi Klum tatsächlich für das Produkt wirbt

Objekte (Kleidung):

Kein Deepfake, vgl. oben

Ort:

Kein Deepfake, vgl. oben

 

3. Konstellation: Moodboards

KI-erstelltes BildBewertung

 

Kein Deepfake

Objekte:

1. Ähnlichkeit: Ja

2. Mit existierenden: eher nein, die abgebildeten Sachen ähneln zwar Objekten, die existieren könnten, allerdings ist diese konkrete Verwendung keine wesentliche Quelle für Täuschung, Manipulation oder Desinformation

3. Objekten: Ja, bei den Produkten handelt es sich um reale Objekte

4. falscher Authentizitätseindruck:  Nein. da es sich um ein Moodboard mit rein dekorativem Inhalt ohne realitätsbezogene Aussage handelt. Maßgeblich ist nicht der Grad der Fotorealität, sondern ob der Inhalt im konkreten Nutzungskontext eine realitätsbezogene Aussage vermittelt.

Ort:

1. Ähnlichkeit: Ja

2. Mit existierenden: eher nein, das Motiv ähnelt zwar einem Ort, der existieren könnte, allerdings ist diese konkrete Verwendung keine wesentliche Quelle für Täuschung, Manipulation oder Desinformation

3. Orten: ja, der Ort kann als realistischer Schauplatz zu verstehen sein

4. falscher Authentizitätseindruck:  Nein. Unter Berücksichtigung des Verwendungszwecks (dekorativer Inhalt ohne realitätsbezogene Aussage ) ist es für den Verbraucher unerheblich ist, ob das Moodboard mit Photoshop oder KI erstellt wurde

 

Kein Deepfake

1. Ähnlichkeit: nein, keine Ähnlichkeit zwischen dem Bildinhalt und dem simulierten Motiv

2. Mit existierenden: nein, aufgrund des Stils ähnelt es keinem Motiv, das so existieren könnte

3. Orten: nein, der im van Gogh-Stil dargestellte Ort kann nicht als realistischer Schauplatz zu verstehen sein

4. falscher Authentizitätseindruck:  Nein. Aufgrund des Stils erscheinen Ort und Objekte nicht als wahrhaftig

 

Laden Sie hier die Erläuterungen als PDF herunter

Eva Behling

Leiterin Recht & Compliance

Arbeitskreise
Rechtsausschuss, Datenschutz

Fachgemeinschaft
FORUM Lebensmittel