Künstliche Intelligenz (“AI”) beschrieb Alan Turing als “the science and engineering of making
intelligent machines, especially intelligent computer programs.”. Heute treffen wir KI in
verschiedenen Stadien an, wobei die heute erfolgreichsten verschiedene Techniken des
"maschinellen Lernens" implementieren.
Die Algorithmen des maschinellen Lernens werden verwendet, um Entscheidungsregeln aus Daten zu
abstrahieren, die dann beispielsweise in Entscheidungsbäumen oder neuronalen Netzwerken
gespeichert werden (algorithmic decision making; “ADM”). Mit der Zeit verbessert sich das
System,
indem es aus den Konsequenzen seiner vorherigen Entscheidungen lernt.
Die große Frage des Projekts ist, ob es Grenzen dieser Art von ADM gibt. ADM Systeme werden immer beliebter, insbesondere in den notorisch unterbesetzten Strafjustizssystemen der Welt (im Weiteren: "SJS"). In westlichen SJS, insbesondere denen der USA und in GB, werden diese Werkzeuge in verschiedenen Phasen des Strafrechtsprozesses genutzt, um insbesondere das Rückfälligkeitsrisiko von Angeklagten zu bewerten. In den USA haben sich sogar die großen Menschenrechtsorganisationen wie die ACLU dafür eingesetzt, dass diese Werkzeuge in allen Phasen des Strafrechtsprozesses eingesetzt werden, um mögliche menschliche Vorurteile zu vermeiden.
Hypothesen der Forschung
Wir postulieren, dass das SJS rechtlich komplizierte Fälle enthält, die es schwierig, wenn nicht
gar unmöglich machen, Entscheidungen ADM Systemen zu überlassen, wiewohl sie noch als
Entscheidungshilfe dienen könnten. Wir nehmen an, dass das Gesetz – als Spiegel der sich
ändernden
moralischen Werte einer Gesellschaft – viele Situationen hervorbringt, in denen menschliche
Entscheidungsträger den eigentlichen Prozess ihrer Entscheidungsfindung in Frage stellen müssen.
Diese
Abhängigkeit vom größeren sozialen Kontext ist sehr schwierig in ADM Systemen zu implementieren
–
sie können, zumindest heute, die feinen Nuancen des Kontextes der vielen schwierigen Fälle im
Strafjustizsystem weder aufnehmen noch angemessen verarbeiten.
Relevanz des Projekts
Die steigende Popularität von ADM Systemen in SJS zusammen mit den offensichtlich
gravierenden Konsequenzen, falls die Maschine sich irren sollte, macht das Strafjustizsystem zu
einem
idealen
Forschungsthema zur Frage (i) wie Menschen über Menschen entscheiden und wie Maschinen über
Menschen entscheiden, verglichen damit, wie (ii) Menschen zusammen mit Maschinen über Menschen
entscheiden – aber auch (iii) die Grenzen auszuloten, inwieweit Maschinen überhaupt
Entscheidungen über
Menschen treffen sollten. Damit ist auch die Frage eng verbunden, wie Staaten darüber
entscheiden, ob
(iv) ADM Systeme in ihren Strafjustizsystemen überhaupt verwendet werden sollen.
Ziel der Forschung
Die Verwendung von ADM Systemen hat – bei mehr als 2 Millionen Inhaftierten in den USA und gut
80.000 in Groß-Britannien – einen enormen Einfluss auf die Gesellschaft der Zukunft. Es ist daher dringend
geboten,
die oben genannten Fragen nach dem Design, dem Anwendungsbereich von ADM Systemen und dessen
Grenzen zu beantworten. Das ist das Ziel dieses Projektes.