Mit diesen drei KI-Modellen kämpft Amazon gegen Fake-Bewertungen

Eine gefälschte Bewertung lässt sich oberflächlich nicht eindeutig erkennen.

Für Online-Shops und Marktplätze stellen gefälschte Bewertungen ein massives Problem dar. Schließlich untergraben Sie die Authentizität des Angebots. Schon oft wurden Fälle bekannt, in denen ganze Netzwerke gegen Vergütungen oder kostenlose Produkte gute Bewertungen praktisch einkauften. Mit rein menschlichem Personal ist der Problematik mittlerweile nicht mehr Herr zu werden. Amazon stellte daher jetzt drei KI-Tools vor, welche das Unternehmen im Kampf gegen Fake-Bewertungen einsetzt.

Bewertung eingereicht – so geht es weiter

Um darzustellen, welchen Untersuchungen eine Bewertung nach dem Einreichen durch die Kundschaft unterzogen wird, schildert das Unternehmen auf seinem Blog die Reise einer Bewertung. Nachdem diese abgeschickt wurde, machen sich die KI-Anwendungen an die Arbeit, um an verschiedenen Datenpunkten festzumachen, ob es sich hier nicht, eventuell oder gesichert um eine unehrliche Meinung handeln könnte. 

Wenn an keinem der Datenpunkte eine Alarmglocke schellt, werden die Bewertungen direkt freigegeben – so geschieht es laut Amazon mit der großen Mehrheit. In einem gesicherten Betrugsfall dagegen wird nicht nur die Bewertung umgehend gesperrt, sondern auch deren Autor:in erfährt Konsequenzen. Eine erste wäre, der Person das Bewertungsrecht zu entziehen. Wird deutlich, dass dies nicht der erste oder einzige Versuch war oder weitere Probleme vorliegen, kann es sogar zur Kontensperrung bis hin zum Rechtsstreit kommen.

Diese KI-Modelle analysieren fragwürdige Bewertungen

Legitime Bewertungen freigeben oder offenkundig gefälschte blockieren ist mitunter einfach. Schwierig sind am Ende die Fälle, bei denen es nicht eindeutig ist. Hier kommen die künstlichen Intelligenzen ins Spiel. Mithilfe von Machine Learning (ML) wird zunächst anhand von zusammenhängenden Daten eine Wahrscheinlichkeit ermittelt. Das können Faktoren sein wie, ob der Shop derzeit Werbung schaltet und damit ein Anstieg an Bewertungen erwartbar sei, oder aber ob konkrete Meldungen gegenüber der fragwürdigen Bewertung vorliegen oder ob die erstellende Person eine Vorgeschichte mit fragwürdigen Bewertungen hat. 

Die auf diese Weise zusammengetragenen Daten werden daraufhin durch ein Large Language Model (LLM) analysiert, um mögliche Auffälligkeiten festzustellen. Hierbei wird auch auf sprachliche Auffälligkeiten geachtet, die beispielsweise in irgendeiner Form auf eine Vergütung hinweisen. Hinzu kommt eine anschließende Analyse durch ein sogenanntes Deep Graph Neural Network (GNN), welches komplexe Zusammenhänge und Risikomuster erkennen kann. 

Der Schmale Grat ist oberflächlich schwer erkennbar

Es kann vorkommen, dass Nutzer:innen eine Bewertung auf Amazon entdecken und diese als Fälschung markieren. Doch nicht immer ist diese Einschätzung letztlich korrekt. So empfinden viele Menschen sprachliche Ungereimtheiten als Anzeichen. Doch könnte die Person, die den Text verfasst hat, auch einfach eine andere Muttersprache haben.

Wie Josh Meek, Senior Data Science Manager in Amazons Fraud Abuse and Prevention Team, ausführt: „Der Unterschied zwischen einer echten und einer gefälschten Bewertung ist nicht immer auf den ersten Blick erkennbar. Ein Produkt kann zum Beispiel schnell viele Bewertungen erhalten, weil der Verkäufer in Werbung investiert hat oder ein großartiges Produkt zum richtigen Preis anbietet. Oder ein Kunde hält eine Bewertung für eine Fälschung, weil sie schlechte Grammatik enthält. Das sind nicht immer die besten Indikatoren.“