In Detroit findet die Polizei per Gesichtserkennung einen mutmaßlichen Dieb. Der aber sieht nicht annähernd wie der Täter aus. Algorithmen sind nicht vorurteilsfrei. So ist schon lange bekannt, dass automatisierte Gesichtserkennung, neben vielen anderen Problemen, erhebliche Schwierigkeiten hat, nichtweiße Physiognomien zu identifizieren. Das „Normal“, auf dem die Software trainiert wird, ist nämlich weiß. Dass das ein ganz handfestes individuelles Problem werden kann, musste Anfang des Jahres Robert Williams aus dem US-Bundesstaat Michigan erfahren. Ein Schwarzer Mann hatte in einem Juweliergeschäft in Detroit Uhren im Wert von 3.800 US-Dollar gestohlen und war dabei gefilmt worden. Das Material wurde in der Polizeidatenbank abgeglichen und fand als Treffer das Bild von Williams Fahrerlaubnis. Schon in der ersten Befragung wurde klar, dass Williams nicht der gefilmte Übeltäter war. Nach Ansicht der NGO American Civil Liberties Union (ACLU) hätte es für diese Erkenntnis keiner Festnahme, sondern lediglich eines menschlichen Blicks auf die Bilder bedurft, und reichte in Williams Namen Beschwerde gegen das Detroit Police Department ein.
Dessen Chef musste nun einräumen, dass die false positives bei der Gesichtserkennung bei sagenhaften 96 Prozent liegen. Schon bei der oft behaupteten korrekten Trefferrate in etwa derselben Dimension ist die absolute Zahl der falschen Identifizierungen viel zu hoch, um einen praktischen Nutzen aus der Gesichtserkennung ziehen zu können, aber das Detroiter Ergebnis sprengt jeden Rahmen. Über die Gründe wird verschiedentlich spekuliert. Einer könnte die hohe Zahl an Schwarzen Verdächtigen sein. Im aktuellen Wochenreport der Detroiter Polizei werden von 70 per Gesichtserkennung gesuchter Personen 68 als „Black“ geführt. Es scheint, als träfen sich rassistische Vorurteile und eine diskriminierende Polizeipraxis ganz beiläufig mit dem bekannten racial bias der Algorithmen.
via taz: Rassismus in Algorithmen: Gesichtserkennung für die Tonne
siehe auch: Man Wrongfully Arrested Because Face Recognition Can’t Tell Black People Apart. ACLU Calls on Lawmakers to Immediately Stop Law Enforcement Use of Face Recognition Technology. Robert Williams, a Black man and Michigan resident, was wrongfully arrested because of a false face recognition match, according to an administrative complaint filed today by the American Civil Liberties Union of Michigan. This is the first known case of someone being wrongfully arrested in the United States because of this technology, though there are likely many more cases like Robert’s that remain unknown. Detroit police handcuffed Robert on his front lawn in front of his wife and two terrified girls, ages two and five. The police took him to a detention center about forty minutes away, where he was locked up overnight in a cramped and filthy cell. Robert’s fingerprints, DNA sample, and mugshot were put on file. After an officer acknowledged during an interrogation the next afternoon that “the computer must have gotten it wrong,” Robert was finally released — nearly 30 hours after his arrest. Still, the government continues to stonewall Robert’s repeated attempts to learn more about what led to his wrongful arrest, in violation of a court order and of its obligations under the Michigan Freedom of Information Act. (…) “Every step the police take after an identification — such as plugging Robert’s driver’s license photo into a poorly executed and rigged photo lineup — is informed by the false identification and tainted by the belief that they already have the culprit,” said Victoria Burton-Harris and Phil Mayor, attorneys representing Robert Williams, in an ACLU blog post published today. “Evidence to the contrary — like the fact that Robert looks markedly unlike the suspect, or that he was leaving work in a town 40 minutes from Detroit at the time of the robbery — is likely to be dismissed, devalued, or simply never sought in the first place…When you add a racist and broken technology to a racist and broken criminal legal system, you get racist and broken outcomes. When you add a perfect technology to a broken and racist legal system, you only automate that system’s flaws and render it a more efficient tool of oppression.”