Kommentar: Dem Algorithmus bleibt der Mensch fremd
Software die in den USA das Rückfallrisiko von Angeklagten berechnen soll, benachteiligt systematisch Afroamerikaner. Das zeigt, wie problematisch der Rückgriff auf Algorithmen ist, kommentiert Moritz Förster.
(Bild: dpa, Ralf Hirschberger/Archiv/Symbolbild)
Ausgerechnet ein schnöder Algorithmus sorgt für den nächsten Schock in der ohnehin schon angespannten US-Gesellschaft. So beurteilt ein Computer systematisch das Rückfallrisiko von schwarzen Straftätern schlechter. Dabei hat er jedoch nicht plump nach der Hautfarbe des Angeklagten gefragt, sondern konnte die unterschiedliche Lebensrealität im Land einfach nicht begreifen.
Eigentlich setzen wir auf den Computer, um den unzuverlässigen Faktor Mensch auszuschalten, denn der könnte zum Beispiel ein schlimmer Rassist sein und entsprechend bewerten. Man könnte in Fällen wie diesen nun sagen, machen wir halt den Algorithmus besser. Das bringt aber nichts, weil es nicht an der Programmierung liegt. Denn die Freunde des rechnergestützten Scoring sitzen einem fundamentalen Irrtum auf. Sie nehmen an, dass sich Menschen und ihre Entscheidungen errechnen lassen. Nach der Eingabe der Faktoren spuckt die Maschine das wahrscheinliche Ergebnis aus. Diese Vorstellung setzt einen unbedingten Determinismus des Menschen voraus: Dass sich Personen ausschließlich aus der Summe externer Faktoren zusammensetzen und sich entsprechend ausrechenbar verhalten.
So funktionieren Menschen jedoch nicht. Sie treffen aktiv Entscheidungen, die einen Unterschied machen. So sind Kriminelle umgeben von friedlichen Mitbürgern, die sich trotz desselben Hintergrunds und einer schweren Jugend dagegen entscheiden, einer Gang beizutreten. Das erkennt der Computer aber nicht. Er muss sie alle über einen Kamm scheren, obwohl der angeklagte Ladendieb hinter den Zahlen kaum etwas mit den Drogendealern und Zuhältern zu tun hat. Das menschliche Element ist dem Algorithmus für immer fremd.
Computer sollten bei der Beurteilung von Menschen eigentlich nichts mitzureden haben. Darauf haben schon viele Denker hingewiesen. Aber die Rechner machen es uns eben bequem. Anstatt uns den Aufwand zu machen, jeden als Individuum zu begreifen, können wir uns so in eine digitale Bürokratie flüchten. Und die ist unerbittlich. Sie sollte neutral auftreten und steckt dennoch Personen, die genauso gut aus ihren Fehltritten gelernt haben könnten, in ihre Mühlen. Für sie sind wir am Ende alle bloß eine Summe aus Zahlen. Und so erheben wir den Algorithmus zu unserem Meister. Nicht nur in den USA. (kbe)
