Ist mein KI-generiertes Bild ein Deepfake?

Viele Online-Händler nutzen mittlerweile KI-Tools, um Produktbilder zu optimieren, Model-Fotos zu erstellen oder Hintergründe auszutauschen. Doch nicht jedes KI-generierte Bild ist automatisch ein Deepfake im Sinne der KI-Verordnung – und nur wenn ein Deepfake vorliegt, greift die Kennzeichnungspflicht.

Was sagt das Gesetz?

Die KI-Verordnung definiert einen Deepfake als einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Zwei Voraussetzungen müssen also erfüllt sein:

1. Der Inhalt muss einer realen Person, einem realen Gegenstand, Ort, einer Einrichtung oder einem Ereignis ähneln.
2. Der Inhalt muss geeignet sein, den Eindruck zu erwecken, er sei echt oder wahrheitsgemäß.

Fehlt eine der beiden Voraussetzungen, handelt es sich nicht um einen Deepfake im rechtlichen Sinne – und es besteht keine Kennzeichnungspflicht. Liegt hingegen ein Deepfake vor, müssen Betreiber des KI-Systems, das den Inhalt erzeugt oder manipuliert hat, offenlegen, dass dieser künstlich erzeugt oder manipuliert wurde.

Beispiel 1: Frei erfundenes Produktfoto

Ein Händler lässt ein Produktbild seines Rucksacks komplett KI-generiert vor einem Berglandschafts-Hintergrund erstellen – Modell, Landschaft und Lichtstimmung existieren so nicht in der Realität.

Einordnung: Hier ist Vorsicht geboten. Zwar existiert die abgebildete Landschaft in dieser konkreten Form nicht, doch das allein schließt einen Deepfake nicht zwingend aus. Entscheidend ist nicht, ob der Ort real existiert, sondern ob das Bild eine realistische Wirkung entfaltet – also den Eindruck erweckt, eine echte Fotografie zu sein. Gerade bei generischen Berglandschaften, wie es sie in ähnlicher Form vielerorts tatsächlich gibt, lässt sich diese Grenze kaum trennscharf ziehen: Für Betrachter ist nicht erkennbar, ob es sich um einen realen, ihnen nur unbekannten Ort handelt oder um eine reine KI-Erfindung. Da der Rucksack zudem als real existierendes Produkt fotorealistisch dargestellt wird, spricht einiges dafür, im Zweifel von einem Deepfake auszugehen – mit entsprechender Kennzeichnungspflicht. Wer auf Nummer sicher gehen will, sollte solche Inhalte vorsorglich kennzeichnen, statt sich auf die fehlende reale Existenz des Motivs zu verlassen.

Beispiel 2: KI-generiertes Model trägt KI-generierte Kleidung

Ein Modehändler generiert ein komplett synthetisches Fotomodell, um ein Kleidungsstück zu präsentieren. Auf den ersten Blick liegt die Annahme nahe: Existiert das Model als Mensch nirgends, kann auch kein Deepfake vorliegen. Diese Einschätzung ist jedoch nicht abschließend gesichert. Es ist rechtlich noch nicht geklärt, ob auch vollständig KI-generierte, fiktive Personen ohne Bezug zu einer realen Person unter den Deepfake-Begriff fallen können. Vieles spricht dabei für eine weite Auslegung: Maßgeblich könnte nicht die zwingende reale Existenz der Person sein, sondern allein die realistische Wirkung des Bildes – also ob es für Betrachter als echtes Foto einer echten Person durchgehen könnte.

Hinzu kommt ein praktisches Problem: KI-Bildgeneratoren orientieren sich an riesigen Mengen existierender Mode-Fotografie. Die Wahrscheinlichkeit, dass ein generiertes Kleidungsstück einem real existierenden Design zum Verwechseln ähnlich sieht, ist entsprechend hoch – und Ähnliches gilt für KI-Models, die oft verblüffend nah an echte Personen heranreichen, ohne dass dies beabsichtigt ist. Für Außenstehende ist zudem grundsätzlich nicht erkennbar, ob ein abgebildetes Model real existiert oder nicht – die fehlende reale Existenz lässt sich also auch kaum zuverlässig nachweisen.

Einordnung: Rechtlich unklar und einzelfallabhängig. Angesichts dieser Unsicherheiten ist im Zweifel eine freiwillige Kennzeichnung dringend zu empfehlen – zumal sich die fehlende reale Existenz des Models im Streitfall ohnehin kaum belegen lässt.

Beispiel 3: Bearbeitung eines echten Kundenfotos

Ein Händler nutzt ein Kundenbewertungsfoto (mit erkennbarer Person) und lässt per KI den Hintergrund austauschen oder die Person in eine andere Umgebung „versetzen", um es als Werbematerial zu nutzen.

Einordnung: Hier wird es kritisch. Da eine reale, identifizierbare Person abgebildet ist und der manipulierte Inhalt als authentisches Foto erscheinen könnte, liegen die Voraussetzungen eines Deepfakes vor – mit entsprechender Kennzeichnungspflicht.

Beispiel 4: Produkt in einer Fantasy-Landschaft

Ein Händler platziert sein Produkt – etwa eine Trinkflasche – in einer erkennbar erfundenen Fantasy-Welt: schwebende Inseln, ungewöhnliche Farbverläufe am Himmel, Landschaftselemente, die es in der Realität so nicht gibt.

Einordnung: Kein Deepfake, da die Umgebung offensichtlich fiktiv ist und keinem realen Ort ähnelt. Da hier zudem klar erkennbar ist, dass es sich um eine gestalterische Inszenierung handelt, besteht auch nicht der Eindruck, es handle sich um einen „echten" Inhalt.

Beispiel 5: Synthetisches Testimonial mit Prominenten-Anmutung

Ein Shop erstellt ein KI-Bild einer Person, die einem bekannten Prominenten stark ähnelt, in Verbindung mit einer Produktempfehlung.

Einordnung: Klarer Deepfake-Fall. Die Ähnlichkeit zu einer realen Person und der suggerierte Eindruck einer echten Empfehlung erfüllen beide Tatbestandsmerkmale. Zusätzlich drohen hier Ansprüche aus Persönlichkeitsrecht und Wettbewerbsrecht.

Wann in jedem Fall keine Kennzeichnungspflicht besteht

Unabhängig von der Ähnlichkeitsfrage fehlt bestimmten Inhalten von vornherein die für einen Deepfake nötige Täuschungseignung. Dazu zählen zum Beispiel:

• Illustrationen und Zeichnungen – erkennbar gemalte oder gezeichnete Darstellungen, auch im Stil einer realen Person oder eines realen Ortes
• Cartoons und Comic-Grafiken – comichaft überzeichnete Figuren oder Szenen
• Fantasy-Figuren und -Wesen – frei erfundene Kreaturen ohne reales Vorbild
• Maskottchen – stilisierte Markenfiguren, auch wenn sie KI-generiert sind
• Erkennbar künstlerische Stile – z. B. Aquarell-Optik, Scherenschnitt, 3D-Cartoon-Look

Entscheidend ist dabei nicht der Inhalt, sondern die erkennbare Machart: Je klarer ein Bild als künstlerische, comichafte oder erkennbar unrealistische Darstellung zu erkennen ist, desto eher scheidet eine Verwechslungsgefahr mit der Realität aus – selbst wenn die Illustration im Stil einer real existierenden Person oder eines Orts gehalten ist.

Fazit für die Praxis

Je fiktiver und erkennbar erfundener Motiv, Model und Umgebung sind, desto unproblematischer ist der Einsatz von KI-Bildern. Kritisch wird es immer dann, wenn KI-generierte Inhalte realen Personen, Orten oder Produkten zu nahekommen – sei es gewollt (Beispiel 5) oder ungewollt als Nebeneffekt des Trainingsdatensatzes (Beispiel 2). Gerade bei Mode- und Model-Fotografie lohnt sich im Zweifel ein zweiter Blick, ob das Ergebnis nicht doch einem realen Vorbild zu ähnlich sieht.