Amazon verbietet Polizei weiterhin, die eigene Gesichtserkennungs-Software zu nutzen

Amazon scheint genau abzuwägen, wem man die hauseigenen Technologien zur Verfügung stellt.

Die Polizei muss auch weiterhin auf Amazons Technologie zur Gesichtserkennung verzichten. Bereits vor einem Jahr hatte es der Konzern den Strafverfolgungsbehörden im Rahmen eines Moratoriums verboten, das hauseigene KI-basierte System namens Rekognition zu verwenden. Dieses Moratorium, das zunächst auf ein Jahr angelegt war, wurde nun nach Angaben von t3n bis auf Weiteres verlängert, ohne einen konkreten Zeitraum zu nennen.

Falsche Ergebnisse der Systeme können gravierende Folgen haben

Das Nutzungsverbot, das vor einem Jahr ausgesprochen wurde, hatte Amazon in einer Zeit verlauten lassen, in der die USA und viele andere Staaten von einer massiven Protestwelle erfasst wurden: Der gewaltsame Tod des Afroamerikaners George Floyd durch weiße Polizeibeamte hatte damals weltweite Empörung und Demonstrationen gegen Polizeigewalt und Rassismus ausgelöst.

Wissenschaftliche Studie hatten indes belegt, dass solche Erkennungssysteme bei einigen Gruppen, etwa bei Frauen und Schwarzen, teils nur sehr ungenaue Ergebnisse liefern. Auch habe es bereits Fälle gegeben, in denen Schwarze durch fehlerhafte Gesichtserkennung verhaftet und auch verurteilt wurden, obwohl sich später herausstellte, dass sie unschuldig waren. Andere Studien lassen beispielsweise diskriminierende Tendenzen durch KI vermuten.

Klare gesetzliche Regelungen sind nötig

Die Verlängerung des Verbots basiert nun offenbar darauf, dass es noch immer keine offiziellen Richtlinien vonseiten der Politik gebe, um beispielsweise Missbrauch zu vermeiden: Das zwölfmonatige Moratorium sollte demnach „dem US-Senat genug Zeit verschaffen, strengere Vorschriften für den Einsatz der Technologie zu implementieren. Passiert ist wenig: Es hat sich noch kein Bundesgesetz mit der Problematik befasst“, heißt es weiter. Lediglich auf lokaler Ebene gebe es mittlerweile einige Verbote – zum Beispiel dürfen Regierungsbehörden in San Francisco entsprechende Systeme zur Gesichtserkennung nicht einsetzen.

Um einen potenziellen Einsatz von Gesichtserkennungssystemen durch Behörden abzusichern, streben Tech-Unternehmen wie Amazon gesetzliche Regelungen auf Bundesebene an.