Fake-Shops nutzen ChatGPT-Suche für Betrug

Immer mehr Menschen fragen KI-Assistenten statt Suchmaschinen nach Produktempfehlungen. Genau diese Entwicklung nutzen offenbar auch Betrüger aus: Verbraucherschützer in Großbritannien warnen vor einer neuen Masche, bei der Kriminelle KI-gestützte Such- und Empfehlungssysteme für Fake-Shops missbrauchen.

Wie der Guardian berichtet, tauchen in den Suchergebnissen von ChatGPT gefälschte Online-Shops auf, die bekannten Einzelhändlern täuschend ähnlich sehen. Laut dem britischen Betrugserkennungsdienst Ask Silver wurden Nutzer:innen unter anderem auf nachgeahmte Websites der Schuh- und Taschenmarke Russell & Bromley sowie des Einrichtungshändlers Dunelm geleitet. Die Fake-Shops wirken auf den ersten Blick seriös, locken mit auffällig hohen Rabatten und imitieren das Erscheinungsbild der Originalmarken mittlerweile sehr überzeugend. Bestellte und per Vorkasse bezahlte Ware kommt jedoch nie an – stattdessen greifen die Betrüger Geld- und Zahlungsdaten ab.

AI Poisoning: Manipulation der Datenbasis

Hinter solchen Fällen steckt häufig das Phänomen des sogenannten AI Poisoning: Kriminelle versuchen gezielt, die Datenbasis großer Sprachmodelle mit manipulierten Inhalten zu beeinflussen. Besonders bei knappen oder schwer erhältlichen Produkten lässt sich über bezahlte Werbemaßnahmen in Kombination mit KI-Optimierung der Eindruck erzeugen, bestimmte Links seien relevant und vertrauenswürdig – auch wenn dahinter ein Fake-Shop steckt.

Auch für Deutschland nur eine Frage der Zeit

Für den deutschen Markt sind vergleichbare Fälle bislang nicht bekannt. Angesichts der Geschwindigkeit, mit der Kriminelle neue Technologien für ihre Zwecke adaptieren, dürfte es aber nur eine Frage der Zeit sein, bis auch hierzulande Anfragen an KI-Chatbots zu betrügerischen Shops führen. Wie bei klassischen Fake-Shops setzen die Betrüger dabei häufig auf Domainnamen, die den Originalseiten stark ähneln, ergänzt um Zusätze wie „official“, „online“ oder regionale Bezeichnungen.

OpenAI hat die im Guardian-Bericht identifizierten Fake-Shops nach eigenen Angaben inzwischen aus dem Suchindex von ChatGPT entfernt, so T3n. Wie nachhaltig das sein wird, muss sich allerdings erst zeigen.

Artikelbild: https://www.depositphotos.com