VG-Wort Pixel

Überwachung Die US-Polizei setzt auf Gesichtserkennung – jetzt bekommen Amazon und IBM kalte Füße

Gesichtserkennung liegt bei dunkelhäutigen Personen deutlich häufiger falsch (Symbolbild)
Gesichtserkennung liegt bei dunkelhäutigen Personen deutlich häufiger falsch (Symbolbild)
© SDI Productions / Getty Images
Jeden Verdächtigen sofort erkennen und auf Schritt und Tritt verfolgen: Für Polizeibehörden auf der ganzen Welt ist Gesichtserkennung hochattraktiv. Doch ausgerechnet einige Anbieter nehmen sich nun die Kritik an der Technologie zu Herzen - und ziehen die Notbremse.

Eine Person in einer Menschenmenge schaut sich verdächtig um, wirkt nervös. Sofort meldet eine Kamera das an die Sicherheitskräfte, nennt noch gleich den Namen des potenziell Verdächtigen. Was vor wenigen Jahren noch Science-Fiction war, wurde in den letzten Jahren immer weiter ausgebaut. Tech-Konzerne wie Amazon verkauften ihre Gesichtserkennungs-Systeme auch an Sicherheitsbehörden, seit letztem Jahr kann sie sogar Gefühle erkennen. Doch angesichts der Proteste in den USA bekommen einige Hersteller Skrupel. Aus gutem Grund: Die Algorithmen behandeln nicht jeden Menschen gleich.

"Jetzt ist die Zeit, einen nationalen Dialog zu beginnen, ob und wie Gesichtserkennung von Strafverfolgsbehörden genutzt werden sollte", erklärte IBM-Chef Arvind Krishna am Dienstag in einem Brief an den US-Kongress. Anlass waren die zahlreichen Proteste gegen Polizeigewalt. Denn nicht nur viele US-Polizisten nehmen bevorzugt dunkelhäutige Personen ins Visier. Auch die Gesichtserkennungs-Programme haben deutliche Vorurteile. Computer-Urgestein IBM zieht daraus den stärksten möglichen Schluss: Man werde in Zukunft keinerlei Gesichtserkennungs-Programme mehr anbieten und lehne die Nutzung der Programme durch die Polizei strikt ab, erklärte Krishna.

Rassistische Algorithmen 

Die Problematik ist schon seit Längerem bekannt. Gesichtserkennungs-Programme funktionieren mittlerweile hervorragend – aber vor allem dann, wenn sie mit hellhäutigen Männern konfrontiert werden. Das zeigten gleich mehrere ausführliche Studien. Bei Menschen mit dunklerer Haut krachte die Erfolgsquote genauso ein wie bei weiblichen Testpersonen. Am schlechtesten schnitten die Algorithmen bei dunkelhäutigen Frauen ab. Während hellhäutige Männer in einer Studie von mehreren Gesichtserkennungs-Programmen mit einer Quote von bis zu 100 Prozent korrekt identifiziert wurden, lag die KI bei jeder dritten Frau mit dunkler Haut falsch. Was im Software-Labor ein ärgerlicher Fehler wäre, wird bei der Nutzung durch Strafverfolgungsbehörden und private Sicherheitsdienste schnell zu einem ernsthaften Problem.

Als Grund für die hohe Fehlerquote werden die unbewussten Vorurteile der Software-Entwickler vermutet. Auch wenn mittlerweile der Anteil an Frauen und Nichtweißen höher ist als früher, sind junge, hellhäutige Männer weiterhin die vorherrschende soziale Gruppe im Silicon Valley. Das spielt zumindest indirekt auch bei der Entwicklung von Künstlicher Intelligenz wie Gesichtserkennung eine Rolle.

Fotos sind die neuen Fingerabdrücke

Die Programme trainieren ihre Fähigkeiten, indem sie immer wieder dieselben gigantischen Datensätze miteinander vergleichen. Sind in den Bild-Datenbanken soziale Gruppen unterrepräsentiert, etwa weil die Entwickler ihre eigenen Fotos nutzen, zeichnet sich das auch in der Erkennungsquote ab. IBM hatte deshalb bereits Anfang 2019 versucht, die blinden Flecken beim KI-Training zu minimieren. Als erstes Unternehmen erstellte der Konzern zwei Fotodatenbanken, in denen alle Ethnien, Geschlechter und Altersgruppen in gleicher Zahl vertreten waren. Die Datenbanken wurden auch anderen Firmen kostenlos zur Verfügung gestellt.

Amazon macht eine Pause

Auch ein weiterer großer Player kündigte nun seinen – vorläufigen – Rückzug aus dem Geschäft mit den Gesichtern an. Amazons umstrittene Gesichtserkennung Rekognition werde für ein Jahr lang nicht zur Nutzung durch Strafverfolgungsbehörden zur Verfügung stehen, kündigte der Konzern am Mittwoch an. Zivile Einsatzzwecke wie ein Programm zum Wiederauffinden vermisster Kinder dürfen das Programm aber weiter nutzen. Anders als bei IBM stellte der Handelsriese in seinem Ankündigungspost aber keinen Bezug zu den aktuellen Protesten her. Man sehe Bewegung im Kongress, eine ethische Nutzung der Technologie zu beraten. Diese Bemühungen unterstütze man, so der Konzern.

Bisher hatte sich die US-Regierung noch nicht durchringen können, die Benutzung der Technologie durch Sicherheitskräfte zu regulieren. Wegen der Proteste hatte das Thema in den letzten Tagen an Fahrt gewonnen, neu ist es in der US-Politik nicht. Um Druck auf die Abgeordneten zu machen, hatte die Bürgerrechtsorganisation ACLU schon 2018 zu einem cleveren Trick gegriffen. Sie ließ die 535 Abgeordneten des US-Parlaments mit einer Datenbank von 25.000 Fahndungsbildern abgleichen – und fand unter den hochrangigen Politikern 28 Treffer. Der Großteil der zu Unrecht als Verbrecher erkannten Abgeordneten war dunkelhäutig.

Quellen: IBM, Amazon, New York Times, Studie zu Gesichtserkennung


Mehr zum Thema


Wissenscommunity


Newsticker