Gericht urteilt: Händler haften für Fehler ihrer KI-Chatbots

Künstliche Intelligenz soll im E-Commerce Zeit und Geld sparen, indem sie den Kundenservice automatisiert. Doch wer trägt das Risiko, wenn der digitale Assistent eigenmächtig falsche Informationen ausgibt? Das Oberlandesgericht Hamm hat hierzu ein Urteil gefällt: Unternehmen haften uneingeschränkt für irreführende Angaben ihrer KI-Chatbots.

Der Algorithmus als verlängerter Arm des Händlers

In dem verhandelten Fall der Verbraucherzentrale Nordrhein-Westfalen gegen ein medizinisches Dienstleistungsunternehmen ging es um einen Chatbot, der auf Kundenanfragen eigenständig falsche Facharzttitel für die Geschäftsführer erfunden hatte. Das Unternehmen argumentierte, die Software agiere als KI-System weitgehend autonom und die Fehler seien nicht vorhersehbar gewesen. Dem erteilte das OLG eine Absage (Urteil vom 12.05.2026, Az.: 4 UKl 3/25).

Wie aus den Entscheidungsgründen des Urteils hervorgeht, ist der Einsatz von technischen Mitteln wie lernfähigen Algorithmen rechtlich als normales Verhalten des Betreibers zu werten. Auch wenn KI-Sprachmodelle auf Wahrscheinlichkeitsberechnungen basieren und Antworten ohne menschliches Zutun generieren, entbindet dies Händler nicht von der Verantwortung. Das Gericht betonte, dass der Betreiber haftet, selbst wenn das System ursprünglich ausschließlich mit korrekten Datensätzen gefüttert wurde.

Filter statt Ausreden: Technische Vorkehrungen sind Pflicht

Dass eine Absicherung technisch möglich ist, zeigte der Fall selbst: Nach der Abmahnung gelang es dem Unternehmen, durch Keyword-Filter und spezifische Prompt-Anweisungen die fehlerhaften Ausgaben zu blockieren. Was danach zumutbar ist, hätte laut Urteil folglich schon vor der ersten Inbetriebnahme sichergestellt werden müssen.

Zudem räumte das Gericht mit dem Mythos auf, Verbraucher würden den Antworten ohnehin misstrauen. Im Gegenteil: Ein Großteil der Kunden vertraue computergenerierten Daten sogar in besonderem Maße, da Maschinen gemeinhin als weniger fehleranfällig als Menschen wahrgenommen werden, so die Richter. Wer die Effizienzgewinne von KI im Kundenservice nutzen will, muss auch das volle rechtliche Risiko für deren Output tragen.

Da der Senat wegen der grundsätzlichen Bedeutung der Zurechnungsfragen die Revision zugelassen hat, wandert der Fall nun vor den Bundesgerichtshof (BGH).

Artikelbild: http://www.depositphotos.com