Gesichtserkennung: Amazon identifiziert Politiker als Kriminelle

US-Bürgerrechtler haben die Gesichtserkennungssoftware von Amazon auf Herz und Nieren geprüft. Dabei ist dem Programm ein peinlicher – wenn auch recht unterhaltsamer – Fehler unterlaufen: Abgeordnete im US-Kongress wurden auf Polizeifotos von Verdächtigen identifiziert.

Die US-Bürgerrechtsorganisation American Civil Liberties Union (ACLU) hat die Gesichtserkennung von Amazon auf die Probe gestellt. Dabei zeigten sich Heise Online zufolge „eklatante Fehler“ in der Software Amazon Rekognition. Die ACLU habe die API der Gesichtserkennungssoftware genutzt, um Bilder der 535 Abgeordneten im US-Kongress mit 25.000 öffentlich verfügbaren Polizeifotos von Verhafteten abzugleichen. Obwohl keiner der Abgeordneten auf einem solchen Foto abgelichtet worden sei, habe Amazon Rekognition 28 von ihnen darauf erkannt.

Da die Gesichtserkennungssoftware von Amazon derzeit bei Polizeibehörden in den USA getestet und teilweise schon eingesetzt wird, schlägt die Bürgerrechtsorganisation Alarm. „Eine Identifizierung – akkurat oder nicht – könnte Menschen ihre Freiheit oder sogar ihr Leben kosten“, so die Bürgerrechtler. Der Kongress soll nun ein Moratorium verhängen, dass der Polizei den Einsatz von Gesichtserkennungssoftware wie Amazon Rekognition untersagt.

Die Grundeinstellung ist zu ungenau

Amazon selbst widerspreche den Testergebnissen der ACLU. Die Bürgerrechtler hätten die Wahrscheinlichkeitsschwelle, ab wann ein Gesicht als erkannt gewertet wird, mit 80 Prozent zu großzügig eingestellt. „Während 80 Prozent Wahrscheinlichkeit eine akzeptable Schwelle für Fotos von Hot Dogs, Stühlen, Tieren oder anderen Einsätzen im Bereich Social Media sind, ist es für die Identifizierung von Personen mit einem gewissen Level an Sicherheit nicht ausreichend“, so ein Sprecher von Amazon gegenüber The Verge. Rekognition selbst fordere eine höhere Schwelle aber nicht bei der Untersuchung von Menschen – und nichts würde Polizeibehörden daran hintern, die Standardeinstellung von 80 Prozent zu nutzen.

Die Polizei von Orlando, Florida, testet derzeit die Gesichtserkennungssoftware. Dabei werden Bilder von freiwilligen Polizisten als Testobjekte eingesetzt und mit Filmmaterial aus Überwachungskameras der Stadt abgeglichen. Auch im Bundesstaat Oregon wird Rekognition eingesetzt. Wie Heise Online berichtet, hat das zuständige Sheriff’s Office 300.000 Fotos von Festnahmen zum Abgleich zur Verfügung gestellt. Wenn eine Person, die schon einmal festgenommen wurde, vor eine Überwachungskamera läuft, können die Polizisten das sofort erfahren. Zudem haben Sheriff-Beamte die Möglichkeit, mit ihrem Smartphone sofort Fotos beisteuern.