Als es an Alvi Choudhurys Zimmertür klopfte, ahnte der Software-Ingenieur nicht, in was für einer verzwickten Lage er sich befand. Der 26-Jährige arbeitete an jenem Tag im Januar bei seinen Eltern in der britischen Stadt Southampton. Am frühen Nachmittag erschienen plötzlich zwei Beamten und führten ihn in Handschellen ab. Zehn Stunden lang musste der junge Mann auf der Wache ausharren, ehe er wenige Stunden nach Mitternacht wieder freigelassen wurde.
Die Behörden hatten Alvi Choudhury des Einbruchs bezichtigt. Er wurde verdächtigt, in der mehr als 160 Kilometer entfernten Stadt Milton Keynes bei der Tat 3000 Pfund gestohlen zu haben, berichtet der "Guardian" unter Berufung auf Dokumente der Liberty Investigaes. Nur hatte Choudhury den Ort noch nie in seinem Leben besucht.
Angst vor Racial Profiling
Der Fehler lag bei den Behörden oder genauer: bei der Software, die genutzt wurde, um den mutmaßlichen Täter aufzuspüren. Das automatisierte Gesichtserkennungsprogramm hatte Choudhury mit jemand anderem verwechselt. Das Beispiel zeigt, dass die Technik von heute weiterhin nicht ohne Menschen auskommt, sich diese aber schon zu sehr auf die fehlerhafte Technik verlassen.
Abgesehen von den ähnlich lockigen Haaren habe es optisch keinerlei Ähnlichkeiten mit der Person auf den Aufnahmen der Überwachungskamera gegeben, echauffierte sich Choudhury. „Ich war wütend, denn der Junge sah etwa zehn Jahre jünger aus als ich. (...) Die Haut war heller. Der Verdächtige sah aus wie 18 Jahre alt. Seine Nase war größer. Er hatte keine Gesichtsbehaarung. Seine Augen waren anders. Seine Lippen waren kleiner als meine", berichtete der fälschlicherweise Festgenommene im Nachhinein und warf der Polizei vor: „Ich habe einfach angenommen, dass der Ermittlungsbeamte gesehen hat, dass ich eine dunkelhäutige Person mit lockigem Haar bin, und beschlossen hat, mich zu verhaften.“
Gesichtserkennungsprogramm mit vielen Fehlern
Tatsächlich hat die Software ihre Tücken. Der Algorithmus, den das britische Innenministerium bei dem deutschen Unternehmen eingekauft hat, durchsucht pro Monat rund 19 Millionen Polizeifotos aus der nationalen Polizeidatenbank des Vereinigten Königreichs. Eigentlich sind die Beamten dazu angehalten, die Informationen der Software als Hinweise zu nutzen und nicht als Fakten. Denn die Technologie macht noch zu viele Fehler.
Da kommt der Fall Alvi Choudhury wenig überraschend daher: Der junge Mann wurde von der Software mit einer asiatischen Person verwechselt. Auch das passt ins Schema, weil die Fehlerquote des Programms bei Menschen mit dunkler Hautfarbe und Personen aus Asien deutlich höher ist als bei Personen mit weißer Hautfarbe. Die Zahl der Irrtümer ist offenbar so groß, dass Polizei- und Kriminalitätsbeauftragte bereits vor „besorgniserregenden systemimmanenten Verzerrungen“ warnten. Zwar seien durch die Arbeit mit dem Programm noch keine Nachteile für Einzelpersonen entstanden. Dies bezeichnen die Behörden allerdings „eher (als) Glückssache“.
Allerdings hat dieses Glück im Fall von Choudhury nicht zum ersten Mal versagt: Erst im Januar musste die Polizei in Südwales einem schwarzen Mann Schadensersatz bezahlen. Auch er war aufgrund des Gesichtserkennungsprogramms zu Unrecht festgenommen und mehrere Stunden festgehalten worden.
Großbritannien und seine Mugshots
Bei Choudhury hat sich die Polizei für den peinlichen Zwischenfall entschuldigt. Ein Trost ist das allerdings nicht. Der 26-Jährige fürchtet, dass es ihn erneut treffen könnte, weil sein Mugshot – das sogenannte Fahndungsfoto – in der Polizeidatenbank jetzt zweimal auftaucht. Im Jahr 2021 wurde er schon einmal fälschlicherweise verhaftet. Damals war der Software-Ingenieur bei einem Ausflug angegriffen worden. Die Polizei ließ ihn schnell wieder frei. Durch die erneute Verhaftung gibt es ein zweites Fahndungsbild. Choudhury befürchtet deshalb, dass sich der jüngste Vorfall wiederholen könne.
„Wenn in meinem Kopf ein dunkelhäutiger Mensch in Schottland eine Bank ausraubt, werden sie dann kommen und mich verhaften?“, fragte er. Manchmal benötige er eine Sicherheitsprüfung, wenn er mit Regierungskunden zusammenarbeite. Solche Hinweise in den Polizeidatenbanken ließen ihn „immer zwielichtiger erscheinen“.
Er ist nicht der Einzige, den das Thema umtreibt: Vor anderthalb Jahren warnte der britische Beauftragte für Biometrie und Überwachungskameras, William Webster, vor den Folgen, wenn die Polizei Fotos von Menschen speichert und nutzt, die zwar festgenommen wurden, aber später nie weiter belangt wurden. Genutzt hat es offenbar nichts.
