Algorithmen sind Teil unseres täglichen Lebens. Streaming-Dienste stellen damit Vermutungen auf, welche Serien uns gefallen könnten; ähnlich wird entschieden, welche Werbungen wir online vorgesetzt bekommen oder wie groß das Risiko ist, uns einen Kredit zu gewähren. In den USA haben Algorithmen in den vergangenen Jahren einen weiteren Zweig erobert: den Justizapparat. Algorithmen sollen dort entscheiden, wie wahrscheinlich es ist, dass ein Angeklagter respektive Verurteilter rückfällig wird.
Eines der populärsten dieser Programme heißt Correctional Offender Management Profiling for Alternative Sanctions oder etwas knackiger Compas. Wie der Name verrät, geht es darum, ein Profil zu einem Straffälligen zu erstellen, dass bei der Verurteilung helfen soll. Dafür wird das Programm mit 137 Parametern gefüttert. Zum Teil sind das Daten wie Alter und Geschlecht oder Fakten aus der Strafakte. Es werden jedoch auch Fragen an den Angeklagten gestellt, etwa darüber wie viele "Freunde/Bekannte" bereits verhaftet wurden, ob man zu Schulzeiten mal einen Verweis bekommen hat oder wie alt der Angeklagte war, als sich seine Eltern trennten, sofern dies der Fall war.
Heraus kommt am Ende ein handliche Zahl auf einer Zehnerskala. Wer mehr als fünf Punkte bekommt, gilt als mittel- bis hochgefährdet, erneut ein Verbrechen zu begehen. Dieses Ergebnis beeinflusst dann, ob der Angeklagte bis zum Prozess gegen Kaution freikommt, ob er eine Bewährungsstrafe erhält oder wie lange er in Haft muss. Mehr als eine Million Straftäter in den USA wurden damit seit der Entwicklung von Compas 1998 bewertet, wie aus einer aktuellen Studie hervorgeht.
Studie: Compas nicht besser als Laienschätzung
Die Studie geht mit diesem und anderen Bewertungsprogrammen hart ins Gericht. Für die Überprüfung sollten zufällig ausgewählte Online-Nutzer den Job von Compas übernehmen, also die Rückfallwahrscheinlichkeit von Straftätern bewerten. Gefüttert mit Eckdaten wie Alter, Geschlecht und vorherigen Verbrechen sollten 400 Laien entscheiden, ob diese Person in den nächsten zwei Jahren erneut straffällig wird. Das Ergebnis: Die zufällig ausgewählten Laien im Netz sind nahezu so genau oder ungenau wie Compas.
Demnach erreichte das Programm eine durchschnittliche Genauigkeit von 65 Prozent, verglichen mit 63 Prozent in der Online-Gruppe. "Dabei handelt es sich um Laien, die mit einem Bruchteil der Informationen der Software auf eine Online-Umfrage antworten", wird einer der Studienleiter, Hany Farid, von "The Atlantic" zitiert. "Also, was genau macht dann eine Software wie Compas?"
Compas-Programm schön früher in der Kritik
Es ist nicht die erste Kontroverse um das Programm. Das Recherche-Portal "ProPublica" kritisierte 2016 bereits, dass sich Compas besonders oft zu Ungunsten von Schwarzen irre. Demnach war die grundsätzliche Genauigkeit der Vorhersagen in allen Risikogruppen bei Schwarzen und Weißen jeweils zwar nahezu identisch. In der Gruppe der fälschlicherweise als rückfallgefährdet eingestuften waren jedoch Schwarze überproportional vertreten; in der Gruppe der fälschlicherweise als geläutert eingestuften waren dies Weiße. Anders gesagt: Schwarze wurden benachteiligt, Weiße bevorzugt - von einer Software, der man gar nicht mitteilt, welche Hautfarbe der zu bewertende Täter hat. Diese Ergebnisse wiederum wurden jedoch von vielen Seiten kritisiert, da die beschriebene Ungleichbehandlung nicht auf das Programm zurückzuführen sei, sondern vielmehr auf die grundsätzlich höhere Rückfallrate unter schwarzen Straftätern.
Auch Hany Farid, der Studienleiter der aktuellen Untersuchung, ordnet die Ergebnisse gegenüber "The Atlantic" noch einmal genauer ein. Ihm ginge es nicht darum, diese Programme allgemein als nutzlos hinzustellen. So könnten Algorithmen in der Bekämpfung von Verbrechen und im Justizsystem durchaus sinnvoll eingesetzt werden. "Wir sagen nicht, man sollte die nicht benutzten. Wir sagen, man sollte sie nur vorher verstehen. Man sollte Beweise dafür haben, dass etwas funktioniert, bevor man es über das Leben von Leuten entscheiden lässt."
