Twitter-Algorithmus bevorzugt offenbar weiße Gesichter

Ein Algorithmus kann per se nicht rassistisch sein. Er kann aber gewisse Dinge bevorzugen und andere vernachlässigen, wenn er mit entsprechenden Daten gefüttert wird. Dieses Problem manifestierte sich am Wochenende massenwirksam beim Kurznachrichtendienst Twitter. Aufgrund einer ähnlich gearteten Fehlfunktion beim Videokonferenzdienst Zoom haben Twitter-Nutzer entdeckt, dass ein Algorithmus offenbar weiße Gesichter gegenüber solchen von schwarzen Personen bevorzugt, wie Heise berichtet.

Ausgangspunkt der Debatte war der Doktorand Colin Madland. Dieser wollte auf Twitter eine Fehlersuche in Zoom dokumentieren. Einem seiner Kollegen wurde immer der Kopf abgeschnitten, wenn ein virtueller Hintergrund für Videokonferenzen genutzt wurde. Die Software erkannte das Gesicht des schwarzen Mannes offenbar. Kurios wurde es dann, als er seine Entdeckung auf Twitter teilen wollte. Wer die Bilder auf dem Smartphone nicht anklickte, um sie in Gänze zu sehen, wusste überhaupt nicht, worum es geht, den auch der Twitter-Algorithmus beschnitt die Bilder so, dass das Gesicht des Mannes zunächst nicht zu sehen war.

Fehlerhafter Bilder-Algorithmus

Anfang 2018 führte Twitter einen Algorithmus ein, der automatisch die vermeintlich wichtigen Teile eines Bildes in der Vorschau zeigen soll. Bei Bildern im Hochformat wird etwa in der Regel nur ein mehr oder minder quadratischer Ausschnitt gezeigt. Und ganz offenbar – das zeigten mehrere Nutzer auf Twitter – werden die Gesichter schwarzer Personen oft ignoriert, wenn sie weißen gegenübergestellt werden – übrigens auch, wenn man das Bild spiegelt oder die Positionen der Menschen tauscht.

Der Forscher Vinay Prabhu stellte dem Experiment einen eigenen Versuch entgegen, indem eine eigens für solche Vergleiche erstellte Bilddatenbank nutzte. Hier wurden überraschenderweise mehrheitlich schwarze Menschen angezeigt. Das Problem des Twitter-Algorithmus könnte sein, dass die entsprechende Erkennungssoftware mit Bildern vornehmlich weißer Menschen angelernt wurde.

Inwieweit Twitter aufgrund des Experiments Handlungsbedarf sieht, bleibt abzuwarten. Das Problem wurde aber offenbar zumindest erkannt. An den Experimenten beteiligte sich auch Dantley Davis, Chief Design Officer von Twitter. Twitters Chief Technology Officer Parag Agrawal lobte indes das Experiment. Der Videokonferenzdienst Zoom hat bereits eine eigene Analyse angekündigt.