Urteil zu erfundenen KI-Zitaten: Was Händler über ChatGPT & Co. wissen sollten

Künstliche Intelligenz (KI) hat längst den Arbeitsalltag vieler Online-Händler erreicht. Ob Produktbeschreibungen, Newsletter, Kategorietexte oder schnelle Einschätzungen zu rechtlichen Fragen: KI spart Zeit, liefert ansprechende Formulierungen und wirkt auf den ersten Blick zuverlässig. Doch ein aktuelles Urteil des Landgerichts Frankfurt am Main zeigt, dass das gefährlich werden kann, wenn man sich zu sehr auf sie verlässt (Landgericht Frankfurt am Main, Beschluss vom 25.09.2025, Az.: 2-13 S 56/24).

Der Fall: Anwalt reicht erfundene KI-Zitate ein

Der zugrundeliegende Fall begann als gewöhnliches Gerichtsverfahren. Ein Anwalt zitierte mehrere vermeintliche Entscheidungen des Bundesgerichtshofs, die seine Argumentation stützen sollten. Auf dem Papier sah alles überzeugend aus – nur leider stimmte nichts davon. Die zitierten Urteile existierten nicht oder waren falsch wiedergegeben. Am Ende kam das Gericht dem auf die Schliche: Die Inhalte waren komplett konstruiert, genau die Art von Fantasieprodukten, die KI-Tools gerne erzeugen, wenn sie sogenannte Halluzinationen produzieren.

Für die Richter war der Vorgang ein Warnsignal. Sie betonten, dass die Verantwortung für die Richtigkeit der vorgelegten Inhalte immer beim Menschen liegt. Wer KI nutzt, muss damit rechnen, dass Systeme Fakten erfinden oder scheinbar echte Quellen generieren, die einer Überprüfung nicht standhalten.

KI ist nur ein Werkzeug – kein ausgelagertes Gehirn

Was hat das mit Online-Händlern zu tun? Sehr viel. Denn KI wird auch im E-Commerce breit eingesetzt. Die Tools schreiben Produkttexte, optimieren Formulierungen, erstellen Werbeslogans oder liefern Einschätzungen zu rechtlichen Fragen. Dabei können unlautere Werbeaussagen herauskommen oder lückenhafte Rechtsauskünfte erteilt werden, die auf einer falschen oder veralteten Rechtslage beruhen. Letztendlich bleibt die inhaltliche Verantwortung immer beim Unternehmen.

Online-Händler sollten Inhalte aus KI-Systemen daher nie ungeprüft übernehmen. Juristische Hinweise gehören in die Hände von Fachleuten. Produkttexte oder Leistungsbeschreibungen müssen zumindest sorgfältig gegengelesen und mit den realen Eigenschaften abgeglichen werden, um keine Widersprüche oder Abmahngründe zu provozieren.

Artikelbild: http://www.depositphotos.com