Commentary

Bernard Jennings’ Definition von Intelligenz und ihre Grenzen im KI-Einsatz

Bernard Jennings schlägt vor, KI anhand ihrer inneren Arbeitsweise als intelligent einzustufen. Sein bislang empirisch ungeprüfter Ansatz wirft eine praktische Frage auf: Welche Rolle darf eine KI bei Entscheidungen übernehmen? Der Artikel erklärt Jennings’ Definition und warum eine Organisation die Befugnisse eines Systems unabhängig davon festlegen muss.

Pastoses abstraktes Ölgemälde: Ein maisgelber Rahmen umschließt mehrere dunkle Blöcke. Von einer Ecke führt eine dünne grüne Linie über eine weite freie Fläche zu einem kleinen indigoblauen Block am Bildrand.
Pastoses abstraktes Ölgemälde: Ein maisgelber Rahmen umschließt mehrere dunkle Blöcke. Von einer Ecke führt eine dünne grüne Linie über eine weite freie Fläche zu einem kleinen indigoblauen Block am Bildrand.

Bernard Jennings fragt in seinem Arbeitspapier The Architecture of Intelligence: Definition, Spectrum, and Ceiling, was ein System leisten und wie es intern arbeiten müsste, um als intelligent zu gelten.1 Er schlägt dafür Kriterien vor, deren empirische Prüfung noch aussteht.

Beim Einsatz einer KI stellt sich jedoch auch eine andere Frage: Was darf aufgrund ihrer Ausgabe geschehen? Ein einfaches Programm, das Fälle sortiert, kann eine Handlung unmittelbar auslösen. Eine technisch aufwendigere KI kann auf Hinweise beschränkt bleiben, denen niemand folgen muss.

Der Artikel untersucht Jennings’ Definition und trennt sie von dieser Frage nach der Entscheidungsbefugnis. Wer aufgrund einer KI-Ausgabe handeln darf, wer ihr widersprechen kann und wer die Folgen verantwortet, muss die Organisation selbst festlegen.

Ein Definitionsversuch über den inneren Aufbau

Viele Intelligenzdefinitionen setzen bei der Leistung an: Kann ein System Ziele verfolgen, Probleme lösen oder sich in unterschiedlichen Umgebungen bewähren? Jennings hält diese Perspektive für unvollständig. Solche Kriterien zeigen, was ein System leistet. Sie erklären aber nicht, wie diese Leistung intern zustande kommt und wann sie mehr ist als kompetente Ausführung.

Für Jennings ist ein System intelligent, wenn es Anforderungen an die eigene Kohärenz selbst bearbeiten kann. Als Kohärenzanforderung versteht er ein Problem, das das System selbst betrifft und das es als solches registriert, etwa einen inneren Konflikt, eine Lücke in einem erkannten Muster oder eine ineffiziente Lösung. Dabei muss sein Verhalten ein Residuum aufweisen: einen Anteil, der sich nicht schon aus den dauerhaft vorhandenen Fähigkeiten des Systems und der jeweiligen Eingabe vorhersagen lässt.

Die Definition beruht auf drei Bedingungen. Das System muss erkennen, dass eine solche Anforderung es selbst betrifft, sie selbst bearbeiten und dabei ein Residuum erzeugen. Zufall, bloße Neuheit und hohe Rechenkomplexität gelten für Jennings nicht als ein solches Residuum.

Der Vorschlag lässt sich deshalb nicht auf die Formel „Bauart statt Verhalten“ reduzieren. Jennings verknüpft eine Annahme über die innere Struktur mit einem beobachtbaren Merkmal im Verhalten. Ist der innere Aufbau nicht vollständig bekannt, muss die Einstufung als intelligent anhand von Indizien erfolgen und empirisch geprüft werden.

Was das Papier behauptet und was offenbleibt

Nach dem Maßstab von Jennings gelten Schachprogramme, klassische Optimierungssysteme und ältere Sprachmodelle nicht als intelligent. In seiner Analyse lassen sich ihre Ausgaben während der Inferenz vollständig aus den fest angelegten Fähigkeiten des Systems und der jeweiligen Eingabe erklären.

Bei neueren Reasoning-Modellen mit zusätzlichen Schleifen während der Inferenz, bei rekursiven Architekturen und bei multimodalen Basismodellen fällt seine Einordnung ausdrücklich vorläufig aus. Auch diese Systeme stuft er derzeit nicht als intelligent ein. Weil ihre inneren Abläufe jedoch nicht vollständig bekannt sind, hält er die Einordnung für umstritten und empirisch ungeklärt.

Diese Unsicherheit gehört zum Kern der Argumentation. Auf Zenodo ist der Text als Arbeitspapier in Version 01 veröffentlicht. Jennings formuliert ein theoretisches Kriterium und skizziert, wie es sich künftig widerlegen ließe. Einen empirischen Nachweis des Residuums für die noch nicht abschließend eingeordneten Systemtypen liefert er nicht. Diese Prüfung überlässt er ausdrücklich der KI-Forschung, der Kognitionswissenschaft und anderen einschlägigen Disziplinen.

Auch die angenommene Obergrenze lässt sich nicht aus diesem Papier allein ableiten. Die acht Arten, auf die autonome Systeme solche Kohärenzprobleme nach Jennings lösen können (Coherence Resolution Modes), übernimmt er aus einer Begleitarbeit. Von dort stammt auch die Begründung für die behauptete Vollständigkeit dieser Modi. Das Arbeitspapier fasst die Begründung nur zusammen und setzt die Vollständigkeit anschließend voraus. Eine feste Obergrenze folgt deshalb nur, wenn die acht Modi tatsächlich alle denkbaren Lösungswege abdecken.

Ob diese Annahme trägt, untersucht der Begleitartikel über Jennings’ Obergrenze. Hier steht zunächst eine andere Frage im Mittelpunkt: Welche organisatorische Befugnis folgt überhaupt daraus, dass man ein System als intelligent einstuft?

Intelligenz verleiht keine Entscheidungsbefugnis

Jennings fragt, welche Eigenschaften ein System haben müsste, damit es nach seiner bewusst neu gefassten Definition als intelligent gilt. Intelligence Architecture richtet den Blick auf etwas anderes: Welche Wirkung hat die Ausgabe eines Systems innerhalb einer Organisation? Bleibt sie ein Hinweis? Wird sie zur Empfehlung? Oder löst sie ohne weitere Prüfung eine Handlung aus?

Die technische Beschaffenheit eines Systems und seine Rolle in organisatorischen Entscheidungen lassen sich unabhängig voneinander gestalten. Ein einfacher Klassifikator mag nach Jennings nicht intelligent sein und trotzdem großen Einfluss auf Entscheidungen haben, wenn eine Organisation anhand seines Schwellenwerts Fälle automatisch von der weiteren Prüfung ausschließt. Umgekehrt könnte ein System alle drei Kriterien von Jennings erfüllen und ausschließlich beratend eingesetzt werden. Die technischen Eigenschaften eines Systems verleihen ihm kein Entscheidungsrecht und verpflichten auch niemanden, seiner Ausgabe zu folgen.

Das NIST AI Risk Management Framework schärft diese Unterscheidung.2 Der freiwillige Leitfaden knüpft Zuständigkeiten nicht daran, ob ein System als intelligent gilt. Er verlangt klare Rollen und Kommunikationswege für das Risikomanagement (GOVERN 2.1) und weist der Leitung die Verantwortung für Entscheidungen über Risiken bei Entwicklung und Einsatz zu (GOVERN 2.3). Auch die Aufgaben beim Zusammenspiel von Menschen und KI sowie bei der Aufsicht sollen klar voneinander abgegrenzt sein (GOVERN 3.2).

Für den laufenden Betrieb sieht der Rahmen Verfahren vor, mit denen Menschen, die das System nutzen oder von seinen Ergebnissen betroffen sind, Probleme melden und Ergebnisse anfechten können (MEASURE 3.3). Außerdem fordert er Regelungen dafür, Systementscheidungen aufzuheben und Systeme zu ersetzen, aus laufenden Prozessen herauszunehmen oder zu deaktivieren (MANAGE 2.4 und 4.1).

Das Rahmenwerk belegt nicht, dass solche Regelungen in jeder Organisation wirksam sind. Es macht aber deutlich, worauf es hier ankommt: Das Recht auf Einspruch und die Zuständigkeit dafür, Systementscheidungen aufzuheben oder Systeme abzuschalten, müssen in der Organisation ausdrücklich festgelegt sein. Die technische Gestaltung eines Systems kann solche Verfahren unterstützen. Das System kann sich diese Befugnisse jedoch nicht selbst geben.

Zwei getrennte Fragen beim Einsatz eines Systems

Wer ein KI-System beurteilt, muss deshalb zwei Fragen auseinanderhalten. Die erste betrifft das System selbst: Welche Operationen führt es aus? Welche Belege sprechen dafür, es als intelligent zu bezeichnen? Was ist noch ungeklärt? Jennings liefert dafür einen anspruchsvollen theoretischen Vorschlag.

Die zweite Frage betrifft den Einsatz in der Organisation. Wer legt den Zweck fest? Wer darf aufgrund einer Ausgabe eine Handlung freigeben? Wer verfügt über die Zeit, die Informationen und die Befugnis, zu widersprechen oder die Handlung zu stoppen? Wie kann ein Einwand noch rechtzeitig in die Entscheidung einfließen? Und wer trägt die Folgen?

Ob man dabei einen engen oder einen weiten Intelligenzbegriff zugrunde legt, beantwortet keine dieser Fragen. Entscheidend ist, was aufgrund der Ausgabe geschehen darf, wer dagegen eingreifen kann und wer verantwortlich bleibt.

Footnotes

  1. Bernard Jennings, „The Architecture of Intelligence: Definition, Spectrum, and Ceiling“, Zenodo Working Paper, Version 01, 22. Mai 2026. Der Zenodo-Eintrag führt den Text als Working Paper. Jennings bezeichnet seine Definition als revisionär. Die acht Modi übernimmt er aus der Begleitarbeit Coherence Resolution Modes (CRM) in Autonomous Systems; die empirische Prüfung seines Kriteriums bleibt künftiger Forschung vorbehalten. ↩

  2. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), Januar 2023. Das Rahmenwerk ist freiwillig, branchenübergreifend und nicht auf einen bestimmten Anwendungsfall zugeschnitten. Die genannten Unterpunkte beschreiben Soll-Zustände für das Risikomanagement; sie belegen nicht, dass die vorgeschlagenen Maßnahmen in der Praxis wirksam sind. ↩

Oliver Wrede schreibt und lehrt über Interface Design, Wissenssysteme und die Architektur von Intelligenz in Organisationen. Ihn interessiert, wie Menschen, Institutionen und Maschinen gemeinsam denken — und wie Gestaltung die Qualität dieses Denkens prägt.

Mehr von Oliver Wrede

Intelligence Architecture

Was kritisches Denken wert ist, wenn KI die Arbeit übernimmt

KI-Agenten können Analysen und Vorschläge in Sekunden liefern. Ihr wirtschaftlicher Nutzen hängt auch davon ab, ob Mitarbeitende die richtigen Fragen stellen, Belege beurteilen und aus den Ergebnissen lernen. Eine Intelligence Architecture muss deshalb die Fähigkeiten der Mitarbeitenden gezielt verbessern. Wie lässt sich diese Entwicklung in der täglichen Arbeit fördern und ihr Geschäftswert prüfen?

Oliver Wrede·
Intelligence Architecture

KI und die ungeschriebenen Regeln einer Organisation

Wie eine Organisation tatsächlich arbeitet, steht nur zum Teil in ihren Prozessbeschreibungen. Eine KI, die aus Dokumenten und gespeicherten Daten antwortet, kann deshalb informelle Zuständigkeiten und wichtige Abstimmungen übersehen. Der Artikel fragt, wie sich diese Arbeit für KI erfassen lässt, ohne bewährte Spielräume zu beseitigen oder Mitarbeitende einer neuen Kontrolle zu unterwerfen.

Oliver Wrede·