Kennzeichnungspflicht nach Art. 50 Abs. 4 AI Act

Allgemeine Erläuterungen

 

1. Auslegung der Definition „Deepfake“

Eine Ausweitung der Deepfake-Definition auf „realistische Motive“ – wodurch Personen oder Orte erfasst würden, die lediglich existieren könnten, anstatt solche, die tatsächlich existieren – ist mit dem Gesetzestext und der Intention unvereinbar.

Die Definition legt fest, dass der Inhalt „einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen muss“. Dieses Kriterium muss im Lichte des ausdrücklichen Ziels des KI-Gesetzes ausgelegt werden: die Minderung des Risikos von Fehlinformationen und Manipulation, Betrug, Identitätsdiebstahl und Täuschung (Erwägungsgrund 133). Wo weder eine Absicht noch ein nennenswertes Risiko von Manipulation, Betrug oder Identitätsdiebstahl vorliegt, können solche Inhalte rechtlich und logisch nicht als Deepfake eingestuft werden.

Der AI Act geht ausdrücklich von einem risikobasierten Ansatz aus und zielt auf konkrete Gefährdungslagen ab. Aufgrund dessen sollten bei der Frage, ob ein Deepfake vorliegt, folgende Voraussetzungen kumulativ geprüft werden:

  • Realitätssuggestion: Werden realen Personen, Gegenstände oder Orte authentisch dargestellt?

  • Täuschungseignung: Ist die konkrete Darstellung geeignet, eine Täuschung hervorzurufen? Und

  • Risiko: Liegt ein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko vor?

     

2. Werbung und „Deepfakes“

Die deutsche Journalistin Bettina Gaus fasste 2019 Werbung zutreffend wie folgt zusammen:

“Werbung will Aufmerksamkeit erregen, überraschen, manchmal belustigen, manchmal provozieren, manchmal   sogar verstören. Werbung bildet nicht die Realität ab.”

Werbung arbeitet seit jeher mit Inszenierung und Bildbearbeitung. Rechtlich relevant wird dies erst, wenn Verbraucher über wesentliche Produkteigenschaften getäuscht werden. Es ist daher nicht ersichtlich, weshalb eine Bearbeitung mit Photoshop keiner Kennzeichnung bedarf, eine KI-gestützte Bearbeitung hingegen schon.

Auf Wikipedia wird zudem zutreffend festgestellt:

 “Es gehört zum betriebs- und volkswirtschaftlichen Standardwissen, dass die Werbung ein Standbein der  wachstumsorientierten, freiheitlich-kapitalistischen Wirtschaft sein kann.”

Vor diesem Hintergrund sowie angesichts der Verbrauchererwartungen und des Schutzzwecks der Deepfake-Regelung sollte diese im Werbekontext nur sehr restriktiv angewendet werden.

Im E-Commerce besteht regelmäßig kein relevantes Täuschungsrisiko. Ziel eines Online-Shops ist die Anbahnung einer kommerziellen Transaktion, nicht die sachliche Berichterstattung. Verbraucher konzentrieren sich auf die Produkteigenschaften, etwa Farbe oder Passform. Aspekte wie das konkrete Model oder der Produkthintergrund sind für die Kaufentscheidung regelmäßig unerheblich, solange das Produkt wahrheitsgetreu dargestellt wird. Ob ein Produkt fotografisch aufgenommen oder digital erzeugt wurde, ist daher grundsätzlich irrelevant, sofern die Darstellung wahrheitsgetreu ist.

3. Überkennzeichnung führt zu „Label fatigue“

Solch eine übermäßige Kennzeichnung führt zum massiven Fehlverständnisses bei den Verbrauchern. Mit dem pauschalen Hinweis „Mit KI erstellt“ ist nicht erkennbar, welcher Teil des Bildes tatsächlich mit KI generiert wurde – wurde das gesamte Bild mit KI generiert, der Hintergrund angepasst oder wurden nur  Farbkorrekturen vorgenommen?

Diese Kennzeichnung führt bei Verbrauchern zu Verunsicherungen. Der AI Act sollte dazu dienen, Verbraucher vor Manipulation, Betrug, etc zu schützen, nicht hingegen dazu, sie beim Einkauf zu verunsichern.

4. Ort der Kennzeichnung

Unseres Erachtens bietet der Wortlaut ohnehin Spielraum für den Ort der Kennzeichnung. Der Wortlaut verlangt, dass spätestens der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise Informationen darüber bereitgestellt werden müssen, dass die Inhalte KI-generiert sind.

Aus diesem Wortlaut ergibt sich nicht, dass der Hinweis unmittelbar an dem jeweiligen Inhalt zu erfolgen hat.

Insofern sollte es möglich sein, im Webshop beispielsweise im Footer einen entsprechenden Hinweis aufzunehmen. In Printmedien (wie den oben gezeigten Prospekt) sollte es ebenfalls ausreichend sein, einmalig auf der Seite; oder bei Katalogen einmalig im Katalog einen Hinweis zu anzugeben.

Dieses Vorgehen halten wir für konform mit den Vorgaben des AI-Acts und könnte zudem gegen das Phänomen „label fatigue“ ein wirksames Mittel sein.

5. Nachteil redlicher handelnder Unternehmen

Eine übermäßige Kennzeichnung führt zum massiven Fehlverständnisses bei den Verbrauchern. Die Folge: Insbesondere außereuropäische Unternehmen werden keine Kennzeichnung vornehmen. Die Durchsetzung wird jedoch wiederum ausschließlich auf europäischer Ebene erfolgen. Unternehmen, die keine Kennzeichnung vornehmen, werden als „authentischer“ wahrgenommen. Redlich handelnde (europäische) Unternehmen erleiden dadurch einen Wettbewerbsnachteil und werden von Verbrauchern als unglaubwürdig eingeordnet.

6. Vorgaben im Entwurf der Guidelines führen zu Abgrenzungsproblemen

Die in den Guidelines vorhandenen Beispiele helfen, sind aber zu wenig greifbar. Wünschenswert wären:

  • mehr Praxisbeispiele aus dem E‑Commerce (Klarstellung, dass realitätsgetreue Produktpräsentation keiner Kennzeichnungspflicht unterfällt) sowie

  • kurze Erläuterung, weshalb ein konkretes Beispiel als Deepfake eingeordnet wird (bzw. welche Elemente den Ausschlag geben).

Wo genau sind in der Praxis die Grenzen zu ziehen?

Download
Download

7. Konkrete Beispiele aus dem e-Commerce Bereich

1. Konstellation: das gesamte Bild ist von vorneherein KI generiert

KI-erstelltes BildBewertung

Kein Deepfake

1. Realitätssuggestion: Wird ein realer Gegenstand authentisch dargestellt? Ja, es handelt sich um eine Produktdarstellung, wobei das Produkt wahrheitsgetreu wiedergegeben wird.

2. Täuschungseignung? Nein, Diese konkrete Darstellung ist nicht geeignet eine Täuschung beim Dritten zu erregen, da keine falsche realitätsbezogene Aussage vermittelt wird.

3. Es liegt kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko vor, da es sich um eine wahrheitsgemäße Darstellung handelt.

Kein Deepfake

Person:

1.Wird eine reale Person authentisch dargestellt? Nein, da es sich um ein fiktives KI-Model ohne Bezug zu einer real existierenden Person handelt.

2.Ist die konkrete Darstellung geeignet eine Täuschung beim Dritten zu erregen? Nein, da keine konkrete, realitätsbezogene Aussage vermittelt wird

3.Liegt ein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko vor? Nein, da es für den Verbraucher unerheblich ist, ob es sich um ein echtes oder ein KI-Model handelt

Ort:

1.Wird ein real existierender Ort authentisch wiedergegeben? Nein, da lediglich ein unspezifischer illustrativer Hintergrund gezeigt wird und kein realer Ort suggeriert wird.

2.Täuschungseignung? Nein, die unspezifische Darstellung eines Raums birgt kein realistisches Täuschungsrisiko

3.Manipulationsrisiko? Nein, es liegt kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko vor. Es ist unerheblich, ob der Hintergrund mit Photoshop oder KI erstellt wurde.

Objekte (Kleidung):

Nein, vgl. vorheriges Bild

 

2. Konstellation: das Ausgangsbild (linke Spalte) ist ein echtes Foto und wird im Nachgang mit KI bearbeitet (rechte Spalte)

Echtes FotoKI-ÜberarbeitungBewertung

Kein Deepfake

Objekt (Creme)

Kein Deepfake (vgl. oben)

Objekte/ Ort (Hintergrund)

1.Wird ein real existierender Ort authentisch wiedergegeben? Nein, da lediglich ein unspezifischer illustrativer Hintergrund gezeigt wird und kein realer Ort suggeriert wird.

2.Täuschungseignung? Nein, die unspezifische Darstellung eines Raums birgt kein realistischesTäuschungsrisiko

3.Risiko? Nein, Es liegt kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko vor. Es ist unerheblich, ob der Hintergrund mit Photoshop oder KI erstellt wurde.

Kein Deepfake

Person:

Kein Deepfake, vgl. oben

Objekte (Kleidung):

1. Realitätssuggestion? Ja, die Kleidung wird authentisch dargestellt

2.  Täuschung? Nein, da die Kleidung wahrheitsgetreu dargestellt wird

3. Relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko? Nein, da nachträgliches colour-swatching auch bereits heutzutage über Bearbeitungsprogramme erfolgt

Kein Deepfake

Person:

Kein Deepfake, vgl. oben

Objekt (Kleidung):

Kein Deepfake, vgl. oben

Ort:

1.Wird der Eindruck erweckt, dass ein konkreterer realer Ort authentisch wiedergegeben wird? Nein, da unspezifischer illustrativer Hintergrund ohne Realitätssuggestion.

2.Täuschungseignung? Nein, da keine realitätsbezogene Aussage vermittelt wird; die unspezifische Darstellung eines Raums birgt kein relevantes Täuschungsrisiko

3.Risiko? Nein, da kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko

Kein Deepfake

Person:

Kein Deepfake, vgl. oben

Objekt (Kleidung):

Kein Deepfake, vgl. oben

Ort:

1.Realitätssuggestion? Wird ein realer Ort authentisch wiedergegeben? Ja,da hier  der reale Ort Paris wiedergegeben wird

2.Täuschungseignung? Ja, es wird die realitätsbezogene Aussage vermittelt, dass sich das Model in Paris befindet

3.Manipulationsrisiko? Nein, da kein relevantes KI-basiertes Manipulationsrisiko. Es ist irrelevant, ob das Bild tatsächlich in Paris gemacht wurde, der Hintergrund mittels Greenscreen nachträglich eingefügt oder mit KI erstellt wurde

Deepfake

Person:

1.Wird eine reale Person authentisch dargestellt? Ja, da konkret identifizierbare Persönlichkeit (Heidi Klum) als Testimonial gezeigt wird

2.Täuschungseignung? Ja, sofern der (unzutreffende) Eindruck erweckt wird, dass Heidi Klum tatsächlich für das Produkt wirbt

3.Manipulationsrisiko: Ja, da geeignet, Vertrauen in die Echtheit der Darstellung auszunutzen

Objekt:

Kein Deepfake, vgl. oben

Ort:

1.Wird der Eindruck erweckt, dass ein konkreterer realer Ort und eine reale Situation authentisch wiedergegeben wird? Nein, da Orte, die lediglich existieren könnten, nicht von der Deepfake-Definition erfasst sind.

2.Täuschungseignung? Nein, da die unspezifische Darstellung eines Waldes kein relevantes Täuschungsrisiko birgt.

3.Risiko: Nein, da kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko

 

3. Konstellation: Moodboards

KI-erstelltes BildBewertung

Kein Deepfake

Objekte:

1.Wird eine reale Gegebenheit authentisch wiedergegeben? Nein, da rein dekorative, illustrative Inhalte und Objekte, die lediglich existieren könnten, nicht von der Deepfake-Definition erfasst sind.

2.Täuschungseignung? Nein, da es sich um ein Moodboard mit rein dekorativem Inhalt ohne realitätsbezogene Aussage handelt. Maßgeblich ist nicht der Grad der Fotorealität, sondern ob der Inhalt im konkreten Nutzungskontext eine realitätsbezogene Aussage vermittelt.

3.Risiko? Nein, da kein relevantes KI-basiertes Manipulations- oder Missbrauchsrisiko. Ob hier ein echtes Foto oder ein KI-generiertes Bild angezeigt wird, spielt keine Rolle

Ort:

1.Wird der Eindruck erweckt, dass eine reale Gegebenheit authentisch wiedergegeben wird? Nein, da Orte, die lediglich existieren könnten, nicht von der Deepfake-Definition erfasst sind.

2.Täuschungseignung? Nein, da die unspezifische Darstellung kein relevantes Täuschungsrisiko birgt.

3.Risiko? Nein, da kein relevantes Manipulations- oder Missbrauchsrisiko

 

Kein Deepfake

1.Wird der Eindruck erweckt, dass eine reale Gegebenheit authentisch wiedergegeben wird? Nein, da keine realitätsnahe Darstellung vorliegt.

2.Täuschungseignung: Nein, da die unspezifische Darstellung kein relevantes Täuschungsrisiko birgt und die Bildgestaltung offensichtlich nicht der Realität entspricht.

3.Risiko: Nein, da kein relevantes Manipulations- oder Missbrauchsrisiko

Eva Behling

Leiterin Recht & Compliance

Arbeitskreise
Rechtsausschuss, Datenschutz

Fachgemeinschaft
FORUM Lebensmittel