Im Zweifel für das geringere Risiko

Unterschiedliche Modelle, wie sie im Strafvollzug genutzt werden, können das Rückfallrisiko von Inhaftieren unterschiedlich bewerten – obwohl sie ähnlich genau sind. Eine Studie der TU Wien zeigt nun, wie dieser Willkür zugunsten der Betroffenen entgegengewirkt werden kann.

Ob eine Person nach ihrer Entlassung aus dem Gefängnis wieder straffällig wird oder sich erfolgreich rehabilitiert, hängt von mehreren Faktoren ab. Wird das Rückfallrisiko bewertet, werden all diese berücksichtigt – sowohl von menschlichen Expert_innen als auch von Machine-Learning-Modellen. Kommen mehrere gleich gute Rechenmodelle zu unterschiedlichen Risikoeinstufungen, sollte für die betroffene Person der niedrigste Wert gelten, schlagen Ashwin Singh (TU Wien) und Carlos Castillo (ICREA/Universitat Pompeu Fabra) vor. Sie untersuchten ein seit über 15 Jahren in Katalonien (Spanien) verwendetes System zur Einschätzung des Rückfallrisikos von Inhaftierten und stellten ihre Ergebnisse kürzlich auf der neunten AAAI/ACM-Konferenz zu KI, Ethik und Gesellschaft vor.

Gleiche Genauigkeit, unterschiedliche Risikobewertung

In vielen Strafvollzugssystemen unterstützen Modelle des maschinellen Lernens (ML) Fachleute dabei, das Rückfallrisiko einzuschätzen. Dabei handelt es sich nicht um komplexe Systeme wie generative KI oder große Sprachmodelle, sondern meist um vergleichsweise einfache lineare Punktesysteme. Sie kombinieren Informationen über die Vergangenheit einer Person, wie beispielsweise deren Vorstrafen, mit Aspekten, die sich während der Haftzeit ändern können, wie beispielsweise das Bildungsniveau. Auf dieser Grundlage werden Risikowerte prognostiziert, die das Gefängnispersonal bei Entscheidungen über Bewährung und Haftbedingungen unterstützen.

Die Prognose bleibt jedoch unsicher, denn die verfügbaren Daten stützen sich lediglich auf messbare Merkmale und die Lebenswege von Personen mit ähnlichen Merkmalen können sich stark unterscheiden. Das führt dazu, dass mehrere Modelle zwar gleich genau sein und dieselben Merkmale berücksichtigen können, bei der gleichen Person aber trotzdem zu unterschiedlichen Ergebnissen kommen. „Es wäre schwer zu rechtfertigen, warum eine Person einen höheren Risikowert erhält, nur weil per Zufall eines von mehreren gleich guten Modellen ausgewählt wurde“, sagt Ashwin Singh vom Forschungsbereich Machine Learning. „Unsere Richtlinie klärt diese Unklarheit zugunsten der betroffenen Person.“

Mehr als 17.500 Haftentlassungen untersucht

Das Team untersuchte das System RisCanvi, das in katalanischen Gefängnissen seit 2009 eingesetzt wird. In Zusammenarbeit mit Forschenden aus dem Strafvollzug des katalanischen Justizdepartments übersetzten Singh und Castillo komplexe rechtliche Regeln in einen Algorithmus. Damit konnten sie systematisch bestimmen, ob eine Person nach ihrer Entlassung im rechtlichen Sinn rückfällig geworden war. So entstand ein Datensatz mit mehr als 17.500 Haftentlassungen.

Anhand dieser Daten entwickelte das Team interpretierbare lineare Modelle mit verbesserter Vorhersageleistung und geringeren Unterschieden bei Fehlerraten zwischen demografischen Gruppen. Verglichen wurden unter anderem Männer und Frauen sowie Personen mit und ohne spanischer Staatsangehörigkeit.

Zugleich wurde technisch sichergestellt, dass erkennbare Fortschritte bei der Rehabilitation während der Haft den Risikowert senken. „Ein Bewertungssystem sollte positive Veränderungen auch tatsächlich als solche abbilden“, sagt Singh. „Rehabilitationsfortschritt sollte niemals alleine aufgrund der mathematischen Struktur eines Modells zu einer höheren Risikobewertung führen.“