Auf Amazon erscheinen mittlerweile immer mehr durch künstliche Intelligenz generierte Bücher.

Korb voller Pilze
Nadya Kubik / shutterstock.com

Mehr und mehr Menschen nutzen künstliche Intelligenz (KI) für positive Zwecke wie Arbeitserleichterung und die Automatisierung simpler Aufgaben. Doch, dass nicht alles, was aus einem KI-Tool kommt, gut ist, zeigen derzeit immer öfter Fälle von durch KI-Bots geschriebenen Büchern, die auf dem Marktplatz von Amazon vertrieben werden.

Wie der Guardian nun berichtete, gaben im jüngsten Beispiel nun offensichtlich KI-generierte Pilz-Ratgeber den potenziell tödlichen Rat, unbekannte Pilze im Zweifelsfall einfach über den Geschmack zu identifizieren. 

Pilz-Tipps nur beim Fachmann suchen

Wer Pilze ernten möchte, sollte entweder selbst über fundierte Kenntnisse verfügen – oder zumindest ein gutes Handbuch mitnehmen. Denn bei kaum einem wildwachsenden Lebensmittel ist die Gefahr so groß, die minimalen Unterschiede zu verkennen und ein möglicherweise giftiges Exemplar mit in die Pfanne zu werfen.

Eine aufmerksame Person auf Reddit warnte als erste vor einigen verdächtigen Pilz-Ratgebern, welche offensichtlich von einer KI verfasst wurden. Der Post, welcher kurz darauf auch durch die New Yorker Mycological Society (Gesellschaft für Pilzwissenschaften) auf X / Twitter geteilt wurde, bezeichnete die Masche als den bisher „möglicherweise tödlichsten KI-Betrug“.

Neben dem Rat, Pilze über Geschmack und Geruch genauer zu bestimmen, enthielt eins der Bücher dabei auch Sammelhinweise über den sogenannten Igel-Stachelbart (Hericium erinaceus). Der Pilz sei zwar essbar, steht jedoch in vielen Regionen unter Naturschutz und sollte daher nicht geerntet werden. Die Mycological Society riet in ihrem X-Post dazu, beim Kauf von Ratgeber-Büchern stets darauf zu achten, dass es sich bei den Autoren um bekannte Fachpersonen handele.

 

Amazon reagiert mit Prüfung

Die besagten Bücher wurden durch den Guardian von einem Spezialisten überprüft. Das Ergebnis der Analyse sei dabei eine 100-prozentige Wahrscheinlichkeit, dass die Inhalte durch ein KI-Tool, wie beispielsweise ChatGPT, erstellt wurden. Das Portal 404Media versuchte zudem die vermeintlichen Autoren zu identifizieren und konnte diese ebenfalls nicht eindeutig zuordnen.

Der E-Commerce-Anbieter soll die betreffenden Bücher mittlerweile vom Marktplatz genommen haben und einer eigenen Prüfung unterziehen. Die Frage bleibt jedoch, wie das Unternehmen mit derartigen Vorkommnissen zukünftig umgehen will. Erst kürzlich musste eine real existierende Autorin gegen unter ihrem Namen auf Amazon veröffentlichte Fake-KI-Bücher ankämpfen (siehe Info-Kasten). 

Eine grundlegende Prüfung sämtlicher Buchinhalte oder zumindest eine Prüfung der Autorenschaft könnte in Anbetracht der heutigen Möglichkeiten ein notwendiger Schritt werden. 

Sie wollen immer über die neuesten Entwicklungen bei Amazon informiert sein? Mit unseren Newslettern erhalten Sie die wichtigsten Top-News und spannende Hintergründe direkt in Ihr E-Mail-Postfach – Jetzt abonnieren!
/
Geschrieben von Ricarda Eichler

Kommentare

#1 NoPrimeDay 2023-09-10 18:54
Solche Meldungen werden sich leider noch deutlich häufen. Wie konnten die Entwicklungstea ms der KI - Programme nur die Büchse der Pandora öffnen? Sie wussten doch genau, welche negativen Auswirkungen dies verursachen würde.

Wenn das Amazon - Team den KI - Büchern nicht mit einer speziellen Software vor (!) ihren Veröffentlichun gen Einhalt gebieten kann, wird das Selfpublishing über kurz oder lang wohl verboten und nur noch renommierte Verlage zugelassen werden.



Kommentar schreiben

Sicherheitscode
Captcha aktualisieren