KI-Bücher auf Amazon gaben tödliche Pilz-Tipps

Auf Amazon erscheinen mittlerweile immer mehr durch künstliche Intelligenz generierte Bücher.

Mehr und mehr Menschen nutzen künstliche Intelligenz (KI) für positive Zwecke wie Arbeitserleichterung und die Automatisierung simpler Aufgaben. Doch, dass nicht alles, was aus einem KI-Tool kommt, gut ist, zeigen derzeit immer öfter Fälle von durch KI-Bots geschriebenen Büchern, die auf dem Marktplatz von Amazon vertrieben werden.

Wie der Guardian nun berichtete, gaben im jüngsten Beispiel nun offensichtlich KI-generierte Pilz-Ratgeber den potenziell tödlichen Rat, unbekannte Pilze im Zweifelsfall einfach über den Geschmack zu identifizieren. 

Pilz-Tipps nur beim Fachmann suchen

Wer Pilze ernten möchte, sollte entweder selbst über fundierte Kenntnisse verfügen – oder zumindest ein gutes Handbuch mitnehmen. Denn bei kaum einem wildwachsenden Lebensmittel ist die Gefahr so groß, die minimalen Unterschiede zu verkennen und ein möglicherweise giftiges Exemplar mit in die Pfanne zu werfen.

Eine aufmerksame Person auf Reddit warnte als erste vor einigen verdächtigen Pilz-Ratgebern, welche offensichtlich von einer KI verfasst wurden. Der Post, welcher kurz darauf auch durch die New Yorker Mycological Society (Gesellschaft für Pilzwissenschaften) auf X / Twitter geteilt wurde, bezeichnete die Masche als den bisher „möglicherweise tödlichsten KI-Betrug“.

Neben dem Rat, Pilze über Geschmack und Geruch genauer zu bestimmen, enthielt eins der Bücher dabei auch Sammelhinweise über den sogenannten Igel-Stachelbart (Hericium erinaceus). Der Pilz sei zwar essbar, steht jedoch in vielen Regionen unter Naturschutz und sollte daher nicht geerntet werden. Die Mycological Society riet in ihrem X-Post dazu, beim Kauf von Ratgeber-Büchern stets darauf zu achten, dass es sich bei den Autoren um bekannte Fachpersonen handele.

Amazon reagiert mit Prüfung

Die besagten Bücher wurden durch den Guardian von einem Spezialisten überprüft. Das Ergebnis der Analyse sei dabei eine 100-prozentige Wahrscheinlichkeit, dass die Inhalte durch ein KI-Tool, wie beispielsweise ChatGPT, erstellt wurden. Das Portal 404Media versuchte zudem die vermeintlichen Autoren zu identifizieren und konnte diese ebenfalls nicht eindeutig zuordnen.

Der E-Commerce-Anbieter soll die betreffenden Bücher mittlerweile vom Marktplatz genommen haben und einer eigenen Prüfung unterziehen. Die Frage bleibt jedoch, wie das Unternehmen mit derartigen Vorkommnissen zukünftig umgehen will. Erst kürzlich musste eine real existierende Autorin gegen unter ihrem Namen auf Amazon veröffentlichte Fake-KI-Bücher ankämpfen (siehe Info-Kasten). 

Eine grundlegende Prüfung sämtlicher Buchinhalte oder zumindest eine Prüfung der Autorenschaft könnte in Anbetracht der heutigen Möglichkeiten ein notwendiger Schritt werden.