Home News Gesichtserkennung: Amazon-Software verwechselt Politiker mit Kriminellen

Gesichtserkennung: Amazon-Software verwechselt Politiker mit Kriminellen

3
0
SHARE

Amazons Gesichtserkennungssoftware Rekognition soll 28 Politiker mit Kriminellen verwechselt haben. Amazon kritisierte den Test von US-Bürgerrechtlern wegen falscher Einstellungen.

Schon im Mai hatte die US-amerikanische Bürgerrechtsorganisation ACLU eindringlich vor Amazons 2016 vorgestelltem Gesichtserkennungssystem Rekognition gewarnt und es als „mächtig und gefährlich“ kritisiert. Jetzt hat die ACLU einen Test mit dem Tool durchgeführt, bei dem 28 Kongressabgeordnete mit mutmaßlichen Kriminellen verwechselt worden seien, wie die Bürgerrechtler mitteilen. Das soll dem Kongress vor Augen führen, wie unzuverlässig die Software arbeite.

Amazon-Software Rekognition: Auffällig viele farbige Politiker verwechselt

Die ACLU hat für den Test frei zugängliche Fotos der 535 aktuellen Mitglieder des Repräsentantenhauses und des Senats verwendet, wie Spiegel Online schreibt. Diese Fotos wurden mit denen von 25.000 Festgenommenen abgeglichen, die ebenfalls öffentlich zugänglich waren. Bei den Politikern habe es sich um Republikaner, Demokraten, Männer und Frauen jeden Alters und aus verschiedenen US-Staaten gehandelt. Auffällig sei, so die ACLU, dass auffällig viele farbige Politiker fälschlich wiedererkannt worden seien, darunter der bekannte schwarze Bürgerrechtler John Lewis.

Diese 28 US-Politiker sind in einem Test der ACLU mit der Amazon-Software Rekognition mit mutmaßlich Kriminellen verwechselt worden. (Bild: aclu.org)

Die ACLU habe für den Test dieselbe Variante des Gesichtserkennungssystems verwendet, die Amazon Nutzern für kommerzielle Zwecke zur Verfügung stellt. Damit könnte jeder Bilder von Gesichtern miteinander abgleichen. Der gesamte Test habe die Bürgerrechtler 12,33 US-Dollar gekostet – weniger als eine große Pizza, wie sie schreiben. Die Tests dienen der ACLU als weitere Untermauerung ihrer Forderung, dass Strafverfolgungsbehörden keine Gesichtserkennung einsetzen sollten. In einigen US-Städten und Gemeinden ist die Amazon-Software aber schon im Einsatz.

Amazon hat derweil gegenüber dem Spiegel auf den Test reagiert. Die ACLU habe laut einem Amazon-Sprecher lediglich die Standardeinstellungen verwendet, die eher für den Abgleich von Fotos von „Hotdogs, Stühlen, Tieren oder anderen Dingen in einem klassischen Social-Media-Kontext“ geeignet seien. Statt einer damit gegebenen Erkennungswahrscheinlichkeit von 80 Prozent sollte dieser Schwellenwert beim Einsatz von Rekognition zur Strafverfolgung auf mindestens 95 festgelegt werden. Allerdings entscheiden die Polizisten selbst, wie sie die Software einstellen.

Mehr zum Thema:





LEAVE A REPLY

Please enter your comment!
Please enter your name here