Amazons neuer Chatbot soll vertrauliche Daten preisgeben – Amazon dementiert

Angestellte von Amazon behaupten, dass der neue hauseigene Firmen-Chatbot Probleme mit der Datensicherheit hat.

Q – unter diesem Namen hatte Amazon erst kürzlich seinen eigenen Chatbot angekündigt, der speziell für Unternehmen konzipiert wurde und es unter anderem mit dem prominenten Gegenspieler ChatGPT aufnehmen soll. 

Als besonders sicher hatte der Konzern das System angepriesen, da es eng an die Daten der nutzenden Firmen gekoppelt sei. Sogenannte „Halluzinationen“, also die Wiedergabe von Falschinformationen, wie sie bei anderen künstlichen Intelligenzen – und auch bei ChatGPT – immer wieder auftreten, will Amazon auf diesem Weg verhindern.

Allerdings wurden nun Zweifel an der Sicherheit von Q laut. Mitarbeitende von Amazon hätten in internen Memos darüber berichtet, dass auch der hauseigene Bot „schwere Halluzinationen“ aufweise und darüber hinaus vertrauliche Daten preisgebe, schreibt Golem und verweist auf Berichte von Platformer.

„Herzanfälle in der Rechtsabteilung“

Als Beispiele von Offenlegungen wurden etwa interne Rabattprogramme, Standorte von AWS-Rechenzentren oder auch Funktionen genannt, die eigentlich noch gar nicht veröffentlicht wurden. 

Das Ausmaß der Probleme lasse sich indes auch an den Reaktionen innerhalb des Unternehmens ablesen: So ist die Rede von Ingenieuren, die teils in der Nacht kontaktiert werden oder ganze Wochenenden hinweg arbeiten müssten. Auch rechtlich seien die Vorfälle wohl kritisch zu bewerten: „Einige Halluzinationen seien internen Dokumenten zufolge schwerwiegend genug, um ,möglicherweise Herzanfälle in der Rechtsabteilung auszulösen‘“, heißt es weiter.

Amazon konnte keine Sicherheitsprobleme feststellen

Auch Amazon selbst habe sich zu den Berichten bereits geäußert. Ein Firmensprecher verwies gegenüber Platformer über regelmäßiges Feedback der Belegschaft, auf dessen Basis bis dato keine Sicherheitsprobleme festgestellt werden konnten. Man sei für alle Rückmeldungen dankbar und werde weiter an der Optimierung des Systems arbeiten. Darüber hinaus wies der Sprecher die Offenlegung vertraulicher Daten konkret zurück.