Fatal4Justice?

Entscheiden über, durch und zusammen mit algorithmischen Entscheidungssystemen

Künstliche Intelligenz (“AI”) beschrieb Alan Turing als “the science and engineering of making intelligent machines, especially intelligent computer programs.”. Heute treffen wir KI in verschiedenen Stadien an, wobei die heute erfolgreichsten verschiedene Techniken des "maschinellen Lernens" implementieren.
Die Algorithmen des maschinellen Lernens werden verwendet, um Entscheidungsregeln aus Daten zu abstrahieren, die dann beispielsweise in Entscheidungsbäumen oder neuronalen Netzwerken gespeichert werden (algorithmic decision making; “ADM”). Mit der Zeit verbessert sich das System, indem es aus den Konsequenzen seiner vorherigen Entscheidungen lernt.

Die große Frage des Projekts ist, ob es Grenzen dieser Art von ADM gibt. ADM Systeme werden immer beliebter, insbesondere in den notorisch unterbesetzten Strafjustizssystemen der Welt (im Weiteren: "SJS"). In westlichen SJS, insbesondere denen der USA und in GB, werden diese Werkzeuge in verschiedenen Phasen des Strafrechtsprozesses genutzt, um insbesondere das Rückfälligkeitsrisiko von Angeklagten zu bewerten. In den USA haben sich sogar die großen Menschenrechtsorganisationen wie die ACLU dafür eingesetzt, dass diese Werkzeuge in allen Phasen des Strafrechtsprozesses eingesetzt werden, um mögliche menschliche Vorurteile zu vermeiden.

Aufbau des Projekts

Hypothesen der Forschung
Wir postulieren, dass das SJS rechtlich komplizierte Fälle enthält, die es schwierig, wenn nicht gar unmöglich machen, Entscheidungen ADM Systemen zu überlassen, wiewohl sie noch als Entscheidungshilfe dienen könnten. Wir nehmen an, dass das Gesetz – als Spiegel der sich ändernden moralischen Werte einer Gesellschaft – viele Situationen hervorbringt, in denen menschliche Entscheidungsträger den eigentlichen Prozess ihrer Entscheidungsfindung in Frage stellen müssen. Diese Abhängigkeit vom größeren sozialen Kontext ist sehr schwierig in ADM Systemen zu implementieren – sie können, zumindest heute, die feinen Nuancen des Kontextes der vielen schwierigen Fälle im Strafjustizsystem weder aufnehmen noch angemessen verarbeiten.

Relevanz des Projekts
Die steigende Popularität von ADM Systemen in SJS zusammen mit den offensichtlich gravierenden Konsequenzen, falls die Maschine sich irren sollte, macht das Strafjustizsystem zu einem idealen Forschungsthema zur Frage (i) wie Menschen über Menschen entscheiden und wie Maschinen über Menschen entscheiden, verglichen damit, wie (ii) Menschen zusammen mit Maschinen über Menschen entscheiden – aber auch (iii) die Grenzen auszuloten, inwieweit Maschinen überhaupt Entscheidungen über Menschen treffen sollten. Damit ist auch die Frage eng verbunden, wie Staaten darüber entscheiden, ob (iv) ADM Systeme in ihren Strafjustizsystemen überhaupt verwendet werden sollen.

Ziel der Forschung
Die Verwendung von ADM Systemen hat – bei mehr als 2 Millionen Inhaftierten in den USA und gut 80.000 in Groß-Britannien – einen enormen Einfluss auf die Gesellschaft der Zukunft. Es ist daher dringend geboten, die oben genannten Fragen nach dem Design, dem Anwendungsbereich von ADM Systemen und dessen Grenzen zu beantworten. Das ist das Ziel dieses Projektes.