Wie ein KI-Output zur Entscheidungsgrundlage wird

Der Supreme Court des US-Bundesstaats Wisconsin erlaubte 2016 in State v. Loomis nur eine begrenzte Verwendung des proprietären COMPAS-Risikoscores: Er durfte in die Strafzumessung einfließen, aber weder Haft noch Strafhöhe bestimmen und auch nicht ausschlaggebend für die Möglichkeit einer Aufsicht außerhalb des Gefängnisses sein.¹

Der Score wurde wirksam, weil ein Vorbereitungsbericht ihn ins Verfahren trug, die Staatsanwaltschaft ihn als Argument nutzte und das Gericht ihn neben anderen Gründen aufgriff. Seine genaue Gewichtung blieb als Geschäftsgeheimnis verborgen. Der Fall zeigt damit nicht, dass „der Algorithmus entschied“, sondern wie eine Organisation einen technischen Output in einen Entscheidungsgrund verwandelt.

Für KI-Systeme in Organisationen ist diese Übersetzung wichtiger als die technische Kategorie des Systems. Ob Score, Text oder Empfehlung: Erst Berichtsformate, Zuständigkeiten und Verwendungsregeln bestimmen, welchen Status der Output erhält, wer ihm widersprechen kann und wer für seine Folgen verantwortlich bleibt.

Die enge rechtliche Grenze

COMPAS war kein generatives KI-System, sondern verband Angaben aus Strafakte und Interview zu Risikogruppen. Das Gericht sah Loomis auf drei Skalen als hohes Risiko, begründete den Ausschluss einer Bewährung aber auch mit Tatenschwere, Vorgeschichte und früherer Aufsicht. Loomis konnte Eingaben und Ergebnisse bestreiten, nicht die proprietäre Gewichtung; außerdem beanstandete er die Berücksichtigung des Geschlechts. Der Supreme Court erlaubte diese konkrete Nutzung, weil unabhängige Gründe die Entscheidung trugen.

Die vorgeschriebenen Warnhinweise begrenzten die Aussage des Scores weiter: Er beschrieb Gruppen statt individueller Rückfallwahrscheinlichkeiten, war damals nicht für Wisconsin kreuzvalidiert und war ursprünglich für Behandlung, Aufsicht und Bewährung statt für das Strafmaß entwickelt worden. Auch mögliche Verzerrungen bei der Einstufung ethnischer Minderheiten sowie die Notwendigkeit fortlaufender Überwachung und Neunormierung mussten sichtbar bleiben.¹ Das Urteil löste die verborgene Gewichtung nicht auf; es erlaubte nur eine Verwendung, deren Wirkung durch Verfahrensregeln begrenzt war.

Warum ein kompakter Output so leicht weiterreist

Niklas Luhmann bezeichnet als Unsicherheitsabsorption, dass spätere Kommunikation das Ergebnis einer früheren Auswahl übernimmt, ohne deren gesamte Unsicherheit erneut zu bearbeiten.² Diese Verdichtung ist für Organisationen notwendig. Andernfalls müsste jede Entscheidung sämtliche Daten, Alternativen und Begründungsschritte ihrer Vorgeschichte wiederholen.

COMPAS verdichtete Angaben aus Akte und Interview, Vergleichsdaten, Modellannahmen und verborgene Gewichtungen zu drei Risikobalken. „Hohes Rückfallrisiko“ ließ sich leicht in einen Bericht und von dort in eine Begründung übernehmen. Gruppenbezug, Validierungsgrenzen und Berechnungsmethode reisten weniger leicht mit.

Für die Gestaltung markiert das den kritischen Übergang: Wann gilt ein zusammengefasstes Ergebnis als belastbar genug für den nächsten Schritt? Genau dort müssen Zweck, Unsicherheit und ausgeschlossene Verwendungen sichtbar sein. Genau dort braucht es außerdem einen Widerspruch, der den weiteren Prozess noch verändern kann.

Die Entscheidungen vor dem Einzelfall

Organisationen arbeiten mit Entscheidungsprämissen: Programme, Zuständigkeiten, Kommunikationswege und Personalentscheidungen strukturieren spätere Entscheidungen, ohne jeden Einzelfall vollständig festzulegen.² Im Loomis-Fall bestimmte das Berichtsformat, welche Kategorien das Gericht sah; die Praxis der Strafvollzugsbehörde prägte den vorgesehenen Gebrauch. Der Supreme Court änderte diese Prämissen für spätere Fälle durch Verbote, Warnhinweise und die Pflicht zu eigenständigen Gründen.

Bei heutigen KI-Systemen liegen vergleichbare Entscheidungen oft lange vor dem einzelnen Output. Jemand legt Kategorien und Schwellen fest, bestimmt Folgeaktionen und weist Rollen das Recht zu, einen Wert zu übergehen. Diese Vorgaben prägen viele Fälle, auch wenn ihre Urheber bei der späteren Entscheidung nicht anwesend sind.

Luhmanns Begriff der Entscheidungskommunikation macht eine weitere Trennung sichtbar. Ein Output ist noch keine zurechenbare Auswahl der Organisation. Im Loomis-Verfahren erhielt die Einstufung institutionelles Gewicht durch Bericht, Argumentation und gerichtliche Begründung; die Strafentscheidung blieb eine Entscheidung des Gerichts.² Die Formulierung „das System hat entschieden“ verdeckt die Rollen, die den Output autorisiert, eingeordnet und verwendet haben.

Was daraus für KI-Verfahren folgt

Elena Esposito verschiebt in Artificial Communication die Frage von einer Ähnlichkeit zwischen menschlichem Denken und lernenden Algorithmen darauf, wie Menschen mit algorithmischen Ausgaben kommunizieren und sie in weitere soziale Kommunikation übernehmen.³ Das erklärt, warum die Darstellung und Weitergabe eines Outputs zu seiner Wirkung gehören. Esposito formuliert damit keine Rechtsregel für Loomis, ebenso wenig ist Luhmanns Organisationstheorie bereits ein Governance-Standard.

Für Intelligence Architecture folgen daraus drei Gestaltungsaufgaben:

1. Status festlegen: Ein Output dient entweder nur der Information, löst eine zusätzliche Prüfung aus, gilt als widerlegbare Vermutung oder aktiviert eine verbindliche Vorgabe. Erlaubte und ausgeschlossene Nutzungen stehen in den Verfahrensregeln und an der Stelle, an der der Output erscheint.
2. Widerspruch wirksam machen: Betroffene und Prüfende können Eingaben korrigieren, die Auslegung bestreiten und eine begründete neue Entscheidung verlangen. Das Protokoll zeigt, welcher Output von wem in welcher Funktion verwendet und wie auf einen Einwand reagiert wurde.
3. Verantwortung zuordnen: Eine benannte Stelle verantwortet Validierungsbasis, zulässige Folgehandlungen sowie Änderung oder Aussetzung der Regeln. Für den Einzelfall bleibt verantwortlich, wer den Output als Grund übernimmt.

Rechtsmittel bestimmt das jeweils geltende Recht; technische und organisationale Architektur müssen ihre Ausübung ermöglichen. Ein KI-Output gewinnt seine institutionelle Kraft nicht allein aus dem Modell, sondern aus den Entscheidungen, die ihn sichtbar machen, ihm einen Status geben und ihn in Handeln übersetzen.

Footnotes

1. Wisconsin Supreme Court, State v. Loomis, 2016 WI 68, offizielle Entscheidung vom 13. Juli 2016. Die Rekonstruktion der COMPAS-Funktion, der Verfahrensgeschichte sowie der Grenzen und Warnhinweise folgt der Mehrheitsentscheidung. ↩ ↩²

2. Niklas Luhmann, Organization and Decision, englische Ausgabe, Cambridge University Press 2018; deutsches Original Organisation und Entscheidung (2000), insbesondere die Kapitel zur Unsicherheitsabsorption und zu Entscheidungsprämissen. ↩ ↩² ↩³

3. Elena Esposito, Artificial Communication: How Algorithms Produce Social Intelligence, MIT Press 2022. Die hier gezogene normative Folgerung stammt nicht aus dem Buch, sondern aus der redaktionellen Verbindung mit dem Loomis-Fall. ↩