Verbraucherschützer prüfen ChatGPT

Die amerikanische Verbraucherschutzbehörde FTC nimmt ChatGPT unter die Lupe. Grund dafür ist unter anderem die Verbreitung von Unwahrheiten durch den Chatbot, wie die Tagesschau berichtete.  FTC hat dem Entwicklerunternehmen OpenAI einen Fragenkatalog zugesendet, der mögliche Gefahren für Nutzer:innen aufdecken soll. Dabei geht es vor allem um die Verbreitung von Falschinformationen sowie den Umgang mit Nutzerdaten. 

Verbreitung von Falschinformationen

Seit Ende letzten Jahres sorgt das KI-Programm für Aufsehen, da man sich wie mit einem Menschen mit der KI unterhalten kann. Dafür wurde und wird die Software mit Daten gefüttert, sodass sie auf Fragen antworten kann. Allerdings kann das Programm keine Wertung der Inhalte vornehmen oder diese auf Richtigkeit überprüfen, sodass auch Falschinformationen ausgespielt werden.

So kam es in der Vergangenheit immer wieder dazu, dass Falschinformationen über Menschen verbreitet wurden, die Potenzial hatten, den Ruf der Personen zu schädigen. Die Software hatte beispielsweise behauptet, dass ein australischer Bürgermeister zu einer Gefängnisstrafe verurteilt worden war. Ein US-Anwalt gab außerdem zu, bei seiner Argumentation Informationen von ChatGPT genutzt zu haben – die zitierten Urteile waren allerdings allesamt frei erfunden. Über einen Jura-Professor verbreitete das Programm zudem Information darüber, dass es Vorwürfe der sexuellen Belästigung gebe und stützte sich dabei auf einen Artikel der Washington Post. Diesen Artikel gab es allerdings nie, wie die Internertworld berichtete. 

Probleme mit Datensicherheit

Neben der Verbreitung von Falschinformationen geriet ChatGPT auch wegen Problemen der Datensicherheit in Kritik. So kam es im März zu einem Vorfall, bei dem Nutzer:innen die Chat-Historie einer anderen Person einsehen konnten. Das Unternehmen OpenAI äußerte sich dazu in einem Blogbeitrag und gab an, dass die Anzahl der Betroffenen „extrem niedrig“ sei. 

Zu diesem Vorfall verlangt die FTC nun Unterlagen. Darüber hinaus erkundigt sie sich nach Informationen darüber, wie bewusst Nutzern ist, dass das Programm falsche Informationen geben kann. Außerdem wurden Vorsichtsmaßnahmen erfragt, die vor dem Veröffentlichen neuer Versionen getroffen werden. 

Auch in der EU wurden Programme wie ChatGPT schon unter die Lupe genommen. So ist eine KI-Verordnung bereits in Planung (wir berichteten).