Luhmann, oder: Eine KI-Antwort ist keine Entscheidung

2016 entschied der Supreme Court von Wisconsin über die Rolle eines proprietären Risikoscores in der Strafzumessung. Der Fall hieß State v. Loomis. Er handelt nicht von einem heutigen generativen KI-System. COMPAS war im Verfahren ein statistisches Risk-Needs-Assessment, das Daten aus der Strafakte und einem Interview zu Risikokategorien verdichtete.¹

Dem Angeklagten Eric Loomis waren im Zusammenhang mit einem Drive-by-Shooting fünf Straftaten vorgeworfen worden. Er bestritt eine Beteiligung an der Schießerei und bekannte sich zu zwei weniger schweren Taten schuldig: der Flucht vor einem Verkehrsbeamten und der Nutzung eines Fahrzeugs ohne Zustimmung des Eigentümers. Die übrigen Vorwürfe wurden eingestellt, durften aber bei der Strafzumessung mitberücksichtigt werden.

Der Bericht zur Vorbereitung des Strafmaßes enthielt eine COMPAS-Auswertung. Sie zeigte auf Skalen von eins bis zehn ein hohes Risiko in drei Kategorien: vorprozessuales Risiko, allgemeines Rückfallrisiko und gewalttätiges Rückfallrisiko. Das erstinstanzliche Gericht verwies auf diese Auswertung, als es Bewährung ausschloss. Es nannte daneben die Schwere der Tat, Loomis’ Vorgeschichte und seine frühere Bewährungsaufsicht.

Loomis beantragte eine neue Strafzumessung. Er argumentierte unter anderem, die proprietäre Berechnung hindere ihn daran, die wissenschaftliche Gültigkeit und die Gewichtung der Faktoren anzufechten; außerdem berücksichtige COMPAS das Geschlecht. Der Supreme Court bestätigte die Ablehnung seines Antrags. Die Verwendung habe in diesem Fall nicht gegen sein Recht auf ein ordnungsgemäßes Verfahren verstoßen, weil der Score nicht ausschlaggebend gewesen sei und das Gericht unabhängige Gründe genannt habe.

Das Urteil war keine pauschale Genehmigung algorithmischer Strafzumessung. Es band die Verwendung an ausdrückliche Grenzen und Warnhinweise. Genau darin liegt der organisationsarchitektonische Gehalt des Falls.

Was COMPAS durfte — und was nicht

Nach der Entscheidung durften COMPAS-Risikowerte weder darüber bestimmen, ob eine Person inhaftiert wird oder wie schwer oder lang die Strafe ausfällt, noch ausschlaggebend dafür sein, ob sie sicher und wirksam in der Gemeinschaft beaufsichtigt werden kann.

Zulässig blieb eine begrenzte Nutzung, etwa zur Planung von Aufsicht, Behandlung oder Alternativen für Personen mit niedrigem Risiko. Das Gericht musste Faktoren erläutern, die das Strafmaß unabhängig vom Score trugen.

Außerdem verlangte der Supreme Court einen schriftlichen Warnhinweis in jedem entsprechenden Vorbereitungsbericht. Er sollte festhalten, dass die Gewichtung und Berechnung proprietär waren; dass COMPAS Gruppenrisiken und keine individuelle Rückfallwahrscheinlichkeit bestimmte; dass Studien Fragen zu überproportional hohen Einstufungen von Angehörigen ethnischer Minderheiten aufgeworfen hatten; dass damals keine Kreuzvalidierung für die Bevölkerung Wisconsins vorlag; dass solche Werkzeuge fortlaufend überwacht und neu normiert werden müssen; und dass COMPAS ursprünglich für Behandlung, Aufsicht und Bewährungsentscheidungen der Strafvollzugsbehörde entwickelt worden war, nicht für die Strafzumessung.¹

Loomis und das Gericht sahen denselben Bericht. Er konnte die aufgeführten Eingabedaten und die resultierenden Werte bestreiten. Wie die Faktoren gewichtet und die Werte genau berechnet wurden, konnte er wegen des Geschäftsgeheimnisses nicht prüfen. Das Urteil löste diese Spannung nicht auf. Es hielt die konkrete Verwendung unter den genannten Begrenzungen für verfassungsgemäß.

Damit ist der Fall präziser als die Behauptung, „eine KI habe über das Strafmaß entschieden“. Der Score wurde berechnet. Der Bericht ordnete ihm einen Status zu. Staatsanwaltschaft und Gericht verwendeten ihn. Das Gericht traf und begründete die Strafentscheidung. Auf Rechtsmittelwegen wurde anschließend geprüft, ob diese Verwendung zulässig war.

Luhmanns erster Begriff: Entscheidungskommunikation

Niklas Luhmann beschreibt Organisationen über Entscheidungen, die als Kommunikationen an frühere Entscheidungen anschließen und weitere Entscheidungen ermöglichen. Eine Entscheidungskommunikation teilt nicht nur ein Ergebnis mit. Sie stellt eine Auswahl als Entscheidung der Organisation dar: Diese Möglichkeit gilt nun, obwohl andere möglich waren.²

Auf Loomis angewandt liegt die Entscheidung deshalb weder im Rechenvorgang allein noch in einer abstrakten „Mensch-Maschine-Einheit“. COMPAS erzeugte drei Risikoeinstufungen. Organisational entscheidungsrelevant wurden sie, weil der Vorbereitungsbericht sie aufnahm, die Staatsanwaltschaft sie als Faktor anführte und das Gericht ihnen in seiner Begründung Gewicht gab. Die Mitteilung des Strafmaßes blieb dem Gericht zugerechnet.

Diese Unterscheidung entlastet das technische System nicht von Prüfung. Sie verhindert eine falsche Zurechnung. Wer den Status eines Outputs festlegt und ihn als Grund in eine Entscheidung einführt, handelt organisational. „Das System hat entschieden“ verdeckt diese Festlegung.

Luhmanns zweiter Begriff: Entscheidungsprämisse

Organisationen können nicht jeden Fall von Grund auf neu entscheiden. Sie legen Entscheidungsprämissen fest: Programme, Zuständigkeiten, Kommunikationswege oder Personalauswahl strukturieren spätere Entscheidungen, ohne jeden Einzelfall vollständig zu bestimmen.²

In State v. Loomis werden solche Prämissen ungewöhnlich sichtbar. Der Vorbereitungsbericht legte fest, welche Kategorien angezeigt wurden. Die Verwendungspraxis bestimmte, welche Rolle der Score im Verfahren spielen konnte. Der Supreme Court setzte anschließend rechtliche Prämissen: bestimmte Nutzungen blieben zulässig, andere wurden ausgeschlossen; Warnhinweise und unabhängige Begründungsfaktoren wurden verlangt.

Für ein heutiges Scoring-System liegen die folgenreichsten Entscheidungen daher oft vor dem einzelnen Output. Wer legt Schwellenwerte und Kategorien fest? Welche Rolle darf daraus eine Freigabe, Prüfung oder Ablehnung ableiten? Wann ist der Output nur Hinweis, wann zwingt er zu einem Verfahrensschritt? Solche Festlegungen prägen viele spätere Entscheidungen, auch wenn ihre Verantwortlichen im Einzelfall nicht anwesend sind.

Luhmanns dritter Begriff: Unsicherheitsabsorption

Mit Unsicherheitsabsorption bezeichnet Luhmann die Verkürzung, durch die eine spätere Kommunikation das Ergebnis einer früheren Auswahl übernimmt, ohne deren gesamte Unsicherheit erneut zu verarbeiten.² Organisationen benötigen diese Leistung. Ohne Verdichtung müsste jede Entscheidung alle Daten, Alternativen und Begründungen ihrer Vorgeschichte wiederholen.

COMPAS machte genau eine solche Verdichtung verfügbar: Angaben aus Akte und Interview, Vergleichsdaten, Modellannahmen und proprietäre Gewichtungen erschienen als drei Balken mit Risikostufen. In der nächsten Kommunikation konnte „hohes Rückfallrisiko“ als kompakte Prämisse zirkulieren. Die Vereinfachung war nützlich, weil sie anschlussfähig war. Sie war riskant, weil Gruppendaten, Validierungsgrenzen und nicht einsehbare Gewichtungen hinter dem Balken zurücktraten.

Unsicherheitsabsorption ist bei Luhmann keine besondere Eigenschaft von Software und kein Synonym für einen Fehler. Der Begriff zeigt, wo Kontrolle nötig wird: an der Stelle, an der eine verdichtete Auswahl den Status einer belastbaren Prämisse erhält.

Espositos Fortführung: vom Denken zur Kommunikation

Elena Esposito führt diese Perspektive für lernende Algorithmen weiter. In Artificial Communication schlägt sie vor, nicht zuerst zu fragen, ob Maschinen wie Menschen denken. Relevant ist, wie Menschen mit algorithmisch erzeugten Ausgaben kommunizieren und wie diese Ausgaben an sozialer Kommunikation teilnehmen.³

Diese Fortführung verändert die Frage an COMPAS. Nicht die Zuschreibung einer menschenähnlichen Intelligenz erklärt seine Wirkung. Entscheidend ist, dass ein Score in einem Bericht lesbar, vor Gericht zitierbar und in einer Begründung anschlussfähig wird. Esposito liefert damit keine Rechtsregel für Loomis. Ihre Perspektive erklärt, warum die kommunikative Verwendung eines Outputs wichtiger sein kann als seine anthropomorphe Bezeichnung.

Die Argumentationskette bleibt daher sauber getrennt:

1. Luhmanns Quellbegriffe beschreiben Entscheidungskommunikation, Entscheidungsprämisse und Unsicherheitsabsorption.
2. Espositos Fortführung richtet diese Kommunikationsperspektive auf algorithmische Ausgaben.
3. Die folgende normative Konsequenz ist eine redaktionelle Folgerung für Intelligence Architecture, nicht Luhmanns oder Espositos fertiges Gestaltungsprogramm.

Unsere normative Konsequenz: Status, Anfechtung, Verantwortung

Erstens muss der Status des Outputs dokumentiert sein. Für jeden Einsatz ist festzuhalten, ob ein Wert nur Hinweis, Anlass für eine Prüfung, widerlegbare Vermutung oder verbindliche Regel ist. Zulässige und unzulässige Nutzungen gehören in die Oberfläche und in die Entscheidungsdokumentation. Wer einen Score verwendet, sollte die davon unabhängigen Gründe festhalten.

Zweitens braucht es einen Einspruchs- und Rechtsmittelweg. Betroffene und prüfende Rollen müssen Eingaben berichtigen, die Bedeutung des Outputs bestreiten und eine begründete erneute Entscheidung verlangen können. Dazu muss das Protokoll zeigen, welcher Output mit welchem Status verwendet wurde und wie auf den Einwand reagiert wurde. Welche Rechtsmittel im Einzelfall gesetzlich zustehen, bestimmt das geltende Recht; die Architektur muss ihre Ausübung ermöglichen, nicht nur abstrakt erwähnen. Loomis selbst konnte den Rechtsmittelweg nutzen, aber gerade die proprietäre Gewichtung blieb seiner Prüfung entzogen.

Drittens braucht jede Prämisse eine verantwortliche Stelle. Eine benannte Rolle muss Schwellenwerte, Risikokategorien, Validierungsgrundlage und erlaubte Folgehandlungen verantworten. Dazu gehört die Befugnis, sie zu ändern oder die Nutzung auszusetzen. Die Verantwortung für den Einzelfall bleibt bei der Stelle, die den Output als Entscheidungsgrund verwendet.

Eine maschinell erzeugte Antwort ist damit nicht bedeutungslos. Sie kann den Raum späterer Entscheidungen stark strukturieren. Aber ihre organisationale Wirkung entsteht nicht im Modell allein. Sie entsteht durch den dokumentierten Status, den Weg des Widerspruchs und die Entscheidung, aus einer verdichteten Ausgabe eine Prämisse zu machen.

Footnotes

1. Wisconsin Supreme Court, State v. Loomis, 2016 WI 68, offizielle Entscheidung vom 13. Juli 2016. Die Rekonstruktion der COMPAS-Funktion, der Verfahrensgeschichte sowie der Grenzen und Warnhinweise folgt der Mehrheitsentscheidung. ↩ ↩²

2. Niklas Luhmann, Organization and Decision, englische Ausgabe, Cambridge University Press 2018; deutsches Original Organisation und Entscheidung (2000), insbesondere die Kapitel zur Unsicherheitsabsorption und zu Entscheidungsprämissen. ↩ ↩² ↩³

3. Elena Esposito, Artificial Communication: How Algorithms Produce Social Intelligence, MIT Press 2022. Die hier gezogene normative Folgerung stammt nicht aus dem Buch, sondern aus der redaktionellen Verbindung mit dem Loomis-Fall. ↩