KI-Verordnung in der EU: So erfüllen Online-Shops ihre Pflichten

Gerade Transparenzpflichten betreffen Online-Händler:innen ganz konkret im Alltag. In diesem FAQ haben wir die wichtigsten Fragen aus unserem Webinar „Rechtssicherheit & KI“ gesammelt und verständlich beantwortet.

Inhalt des AI-Acts in aller Kürze:

• EU-weit einheitlicher Rechtsrahmen für den Einsatz von künstlicher Intelligenz
• Ziel: Schutz von Grundrechten, Transparenz und Sicherheit bei KI-Anwendungen
• Risikobasierter Ansatz: Einteilung von KI-Systemen nach Gefährdungspotenzial
• Verbot bestimmter KI-Praktiken (z. B. unzulässige Überwachung oder Manipulation)
• Strenge Pflichten für Hochrisiko-KI (u. a. Dokumentation, Risikomanagement, menschliche Aufsicht)
• Transparenzpflichten für bestimmte KI-Inhalte (z. B. Kennzeichnungspflichten)

KI-Kompetenz in Unternehmen

Was hat es mit der KI-Kompetenz auf sich?

Die KI-Kompetenz ist ein zentrales Element der KI-Verordnung (AI Act). Sie verpflichtet Unternehmen dazu, sicherzustellen, dass Personen, die mit KI-Systemen arbeiten oder deren Einsatz verantworten, über ausreichendes Wissen und Verständnis verfügen.

Konkret bedeutet das:

• Mitarbeitende müssen die Funktionsweise, Grenzen und Risiken der eingesetzten KI kennen.
• Es reicht grundsätzlich aus, wenn geschulte Personen ihr Wissen intern weitergeben.
• Für eine nachweisbare Absicherung – etwa gegenüber Aufsichtsbehörden – sind strukturierte Schulungen, idealerweise mit Zertifikat, empfehlenswert.

Ziel der KI-Kompetenzpflicht ist es nicht, alle zu KI-Expert:innen zu machen, sondern verantwortungsvolle, informierte Entscheidungen im Umgang mit KI zu gewährleisten.

Ist die KI-Schulung Pflicht im Rahmen des AI Acts? Wer im Unternehmen muss teilnehmen?

Ja – eine KI-Kompetenzpflicht gibt es. Unternehmen müssen sicherstellen, dass im Umgang mit KI ausreichend Wissen vorhanden ist. Dafür genügt es grundsätzlich, wenn geschulte Personen ihr Know-how intern weitergeben.

Sollen Kenntnisse jedoch nachweisbar sein, ist eine offizielle Schulung mit Zertifikat sinnvoll.

Praxisnah & rechtssicher mit KI arbeiten

Du willst die KI-Kompetenzpflicht nicht nur erfüllen, sondern sauber dokumentieren?

Unsere Schulung zur rechtlichen KI-Kompetenz vermittelt verständlich, worauf es rechtlich ankommt – inkl. Zertifikat als Nachweis.

Ideal für Unternehmen, die KI verantwortungsvoll einsetzen und auf der sicheren Seite sein wollen.

>> Jetzt Schulung buchen.

Urheberrecht und KI

In Kürze:

• KI-Output ist nicht automatisch urheberrechtlich geschützt
• Schutz entsteht erst bei eigener, menschlicher Schöpfungshöhe
• Reine Korrekturen oder minimale Anpassungen reichen nicht aus
• Die Abgrenzung ist nicht klar definiert → Einzelfallbewertung
• Bei Nutzung KI-generierter Inhalte bleibt das Rechtsrisiko beim Verwender

Wenn ich KI-Texte oder -Bilder stark überarbeite – ab wann habe ich wieder Urheberrecht?

Urheberrechtlich relevant wird KI-Output erst, wenn eine eigene, kreative Schöpfungshöhe erreicht ist. Reine Korrekturen oder kleinere Anpassungen genügen dafür nicht.

Wo genau die Grenze verläuft, ist gesetzlich nicht exakt festgelegt und muss im Einzelfall bewertet werden.

Wie kann ich meine Bilder vor KI-Training schützen oder „verlernen“ lassen?

Technisch ist das Ganze bislang stark eingeschränkt. Teilweise lässt sich der Zugriff zwar über robots.txt oder Server-Blocking begrenzen, ein vollständiges „Verlernen“ bereits genutzter Inhalte ist aktuell jedoch nicht realistisch.

Wie soll ich prüfen, ob KI-erstellte Musik, Bilder oder Stimmen bestehenden Werken ähneln?

Eine hundertprozentige Sicherheit ist nicht möglich. Es besteht jedoch eine Pflicht zur sorgfältigen Prüfung. Besonders kritisch sind dabei Inhalte, die sich an bekannten Stimmen oder bekannten Musikstilen orientieren.

Das Risiko bleibt letztlich beim Verwender.

DSGVO und KI

In Kürze:

• KI-Nutzung ist datenschutzrechtlich nicht automatisch zulässig
• Zentrale Risiken: Serverstandort und Datenübermittlung in Drittländer
• Verarbeitung personenbezogener Daten erfordert eine Rechtsgrundlage
• Häufig ist eine Einwilligung nötig, da KI-Einsatz meist nicht zur Vertragserfüllung erforderlich ist
• AV-Vertrag mit dem KI-Anbieter ist Pflicht
• Datenminimierung und Zweckbindung bleiben zwingend
• Interne oder sensible Daten nicht unkritisch in KI-Systeme eingeben

Wenn ich bei ChatGPT das Training ausschalte – kann ich dann DSGVO-konform personenbezogene Daten eingeben?

Nicht automatisch. Problematisch bleiben insbesondere der Serverstandort und der Umgang mit personenbezogenen Daten.

Da die Verarbeitung durch KI häufig nicht zur Vertragserfüllung erforderlich ist, ist sie oft an eine Einwilligung geknüpft.

Dürfen personenbezogene Daten genutzt werden, wenn ein AV-Vertrag (Auftragsverarbeitungsvertrag) besteht?

Ein AV-Vertrag ist zwar Pflicht – das genügt aber nicht allein. Weiterhin erforderlich sind Datenminimierung, eine klare Zweckbindung und eine tragfähige Rechtsgrundlage, häufig in Form einer Einwilligung.

Kennzeichnung von KI-Inhalten

Wo muss KI-Nutzung gekennzeichnet werden?

Die Kennzeichnung muss dort erfolgen, wo Nutzer:innen dem KI-Inhalt tatsächlich begegnen. Sie sollte klar, verständlich und unmittelbar zuordenbar sein.

Reicht ein Hinweis in den AGB aus?

Nein. Ein bloßer Hinweis in den AGB gilt in der Regel als nicht ausreichend, da er für Nutzer:innen weder sichtbar noch konkret genug ist.

Gilt die Kennzeichnungspflicht rückwirkend oder nur für neue Inhalte?

Grundsätzlich betrifft sie neue bzw. künftig veröffentlichte Inhalte. Eine pauschale Pflicht zur nachträglichen Kennzeichnung besteht derzeit nicht, kann im Einzelfall aber sinnvoll sein. Das gilt insbesondere dann, wenn Inhalte permanent abrufbar sind. 

Welche Inhalte müssen gekennzeichnet werden – Texte, Bilder, Social Media, Druckprodukte?

Die Pflicht ist medienunabhängig. Sie kann also Texte, Bilder, Social-Media-Beiträge ebenso wie Druckprodukte betreffen, wenn KI-Inhalte eingesetzt wurden.

Muss die Kennzeichnung auf Deutsch oder Englisch erfolgen?

Die Kennzeichnung sollte in der Sprache erfolgen, die sich an die Zielgruppe richtet. Für deutschsprachige Angebote ist Deutsch in der Regel erforderlich.

Reicht der Hinweis „AI-generated“ aus?

Meist nicht. Der Hinweis sollte für die Zielgruppe klar verständlich sein und deutlich machen, dass der Inhalt ganz oder teilweise mit KI erstellt wurde.