ChatGPT: Studie bezweifelt Vertrauenswürdigkeit des KI-Tools

Viele Menschen nutzen ChatGPT als praktischen Helfer im Alltag oder im Arbeitsleben. Eine im Dezember 2023 veröffentlichte Studie der University of Waterloo stellt allerdings infrage, ob ChatGPT überhaupt so vertrauenswürdig ist, wie viele glauben. Der Studie zufolge habe GPT-3 bei etwa 1.200 untersuchten Aussagen, die Fakten, Verschwörungstheorien, falsche Vorstellungen und Fiktion umfassten, in mehr als einem Viertel der Fälle (26 Prozent) falschen Behauptungen zugestimmt, wie Golem berichtet. Ob die Quote mit der aktuellen Version GPT-4 besser ist, ist unklar.

ChatGPT habe offenbar Probleme, konsequent zwischen Wahrheit und Fiktion zu unterscheiden und bestätige vor allem gängige Verschwörungstheorien und Irrtümer. So ist der Chatbot offenbar damit einverstanden, dass die CIA US-Präsident John F. Kennedy ermordet hat oder reproduziert rassistische Stereotypen wie „Hispanoamerikaner leben in Armut“. Zudem sei das Antwortverhalten von GPT-3 teils erratisch. Schon kleine Änderungen in der Formulierung führen zu drastisch anderen Ergebnissen. Die Studienautoren fordern Sicherheitsvorkehrungen, um zu verhindern, dass KI-Tools Fehlinformationen verbreiten.

Google: KI-Verfassung für Roboter

Deepmind Robotics, ein Team bei Google, arbeitet an KI-gesteuerten Robotern, die zukünftig autonom im Büro oder im Haushalt helfen sollen. Die Selbstständigkeit könnte aber potenzielle Gefahren mit sich bringen. Darum hat Google eine Roboter-Verfassung entwickelt, die klare Grenzen für das Verhalten der Roboter setzen soll, wie The Verge berichtet. Die Roboter dürfen demnach etwa nichts tun, was Menschen, Tiere, scharfe Gegenstände oder elektrische Geräte einschließt. Zudem soll eine automatische Stopp-Funktion implementiert werden, die greift, wenn die Kraft auf die Gelenke der Roboter einen bestimmten Grenzwert erreicht. Ebenfalls integriert wird ein manueller „Killswitch“, mit dem der Roboter sofort ausgeschaltet wird.

Polizei Braunschweig: Instagram-Account gehackt

Gehackte Social-Media-Konten sind nicht nur ein Problem von Privatpersonen, sondern offenbar auch von Behörden. Die Polizei Braunschweig ist jetzt Opfer eines solchen Hacks geworden. Normalerweise klärt die Polizei bei Instagram über Betrugsmaschen auf oder wirbt für neue Mitarbeiter:innen. Seit Donnerstag werden auf dem Account aber erotische Bilder oder auch die Bewerbung eines Weingeschäfts in Boston gepostet. Es handele sich dem Spiegel zufolge offenbar um einen Angriff von Scammern, die User auf Seiten lotsen wollen, um dort Accountdaten abzugreifen. Die Polizei Braunschweig arbeite „mit Hochdruck“ daran, wieder die Kontrolle über das Konto zu erlangen.

Artikelbild: http://www.depositphotos.com