Wann ist ein System intelligent? Ein Definitionsversuch anhand des inneren Aufbaus

Viele Intelligenzdefinitionen setzen bei der Leistung an: Kann ein System Ziele verfolgen, Probleme lösen oder sich in unterschiedlichen Umgebungen bewähren? Bernard Jennings hält diese Perspektive für unvollständig. Solche Kriterien zeigen, was ein System leistet. Sie erklären aber nicht, wie diese Leistung intern zustande kommt und wann sie mehr ist als kompetente Ausführung.

In seinem Arbeitspapier The Architecture of Intelligence: Definition, Spectrum, and Ceiling versucht Jennings, diese Lücke zu schließen.¹ Für ihn ist ein System intelligent, wenn es Anforderungen an die eigene Kohärenz selbst bearbeiten kann. Dabei muss sein Verhalten ein Residuum aufweisen: einen Anteil, der sich nicht schon aus den dauerhaft vorhandenen Fähigkeiten des Systems und der jeweiligen Eingabe vorhersagen lässt.

Die Definition beruht auf drei Bedingungen. Das System muss erkennen, dass die Kohärenzanforderung es selbst betrifft, sie selbst bearbeiten und dabei ein Residuum erzeugen. Zufall, bloße Neuheit und hohe Rechenkomplexität gelten für Jennings nicht als ein solches Residuum.

Der Vorschlag lässt sich deshalb nicht auf die Formel „Bauart statt Verhalten“ reduzieren. Jennings verknüpft eine Annahme über die innere Struktur mit einem beobachtbaren Merkmal im Verhalten. Ist der innere Aufbau nicht vollständig bekannt, muss die Einstufung als intelligent anhand von Indizien erfolgen und empirisch geprüft werden.

Was das Papier behauptet und was offenbleibt

Nach dem Maßstab von Jennings gelten Schachprogramme, klassische Optimierungssysteme und ältere Sprachmodelle nicht als intelligent. In seiner Analyse lassen sich ihre Ausgaben während der Inferenz vollständig aus den fest angelegten Fähigkeiten des Systems und der jeweiligen Eingabe erklären.

Bei neueren Reasoning-Modellen mit zusätzlichen Schleifen während der Inferenz, bei rekursiven Architekturen und bei multimodalen Basismodellen fällt seine Einordnung ausdrücklich vorläufig aus. Auch diese Systeme stuft er derzeit nicht als intelligent ein. Weil ihre inneren Abläufe jedoch nicht vollständig bekannt sind, hält er die Einordnung für umstritten und empirisch ungeklärt.

Diese Unsicherheit gehört zum Kern der Argumentation. Auf Zenodo ist der Text als Arbeitspapier in Version 01 veröffentlicht. Jennings formuliert ein theoretisches Kriterium und skizziert, wie es sich künftig widerlegen ließe. Einen empirischen Nachweis des Residuums für die noch nicht abschließend eingeordneten Systemtypen liefert er nicht. Diese Prüfung überlässt er ausdrücklich der KI-Forschung, der Kognitionswissenschaft und anderen einschlägigen Disziplinen.

Auch die angenommene Obergrenze lässt sich nicht aus diesem Papier allein ableiten. Die acht Coherence Resolution Modes übernimmt Jennings aus einer Begleitarbeit. Von dort stammt auch die Begründung für die behauptete Vollständigkeit der acht Modi. Das Arbeitspapier fasst diese Begründung nur zusammen und setzt die Vollständigkeit der acht Modi anschließend voraus. Eine feste Obergrenze folgt deshalb nur, wenn die acht Modi tatsächlich alle denkbaren Lösungswege abdecken.

Ob diese Annahme trägt, untersucht der Begleitartikel über Jennings’ Obergrenze. Hier steht zunächst eine andere Frage im Mittelpunkt: Welche organisatorische Befugnis folgt überhaupt daraus, dass man ein System als intelligent einstuft?

Intelligenz verleiht keine Entscheidungsbefugnis

Jennings fragt, welche Eigenschaften ein System haben müsste, damit es nach seiner bewusst neu gefassten Definition als intelligent gilt. Intelligence Architecture richtet den Blick auf etwas anderes: Welche Wirkung hat die Ausgabe eines Systems innerhalb einer Organisation? Bleibt sie ein Hinweis? Wird sie zur Empfehlung? Oder löst sie ohne weitere Prüfung eine Handlung aus?

Die technische Beschaffenheit eines Systems und seine Rolle in organisatorischen Entscheidungen lassen sich unabhängig voneinander gestalten. Ein einfacher Klassifikator mag nach Jennings nicht intelligent sein und trotzdem großen Einfluss auf Entscheidungen haben, wenn eine Organisation anhand seines Schwellenwerts Fälle automatisch von der weiteren Prüfung ausschließt. Umgekehrt könnte ein System alle drei Kriterien von Jennings erfüllen und ausschließlich beratend eingesetzt werden. Die technischen Eigenschaften eines Systems verleihen ihm kein Entscheidungsrecht und verpflichten auch niemanden, seiner Ausgabe zu folgen.

Das NIST AI Risk Management Framework schärft diese Unterscheidung.² Der freiwillige Leitfaden knüpft Zuständigkeiten nicht daran, ob ein System als intelligent gilt. Er verlangt klare Rollen und Kommunikationswege für das Risikomanagement (GOVERN 2.1) und weist der Leitung die Verantwortung für Entscheidungen über Risiken bei Entwicklung und Einsatz zu (GOVERN 2.3). Auch die Aufgaben beim Zusammenspiel von Menschen und KI sowie bei der Aufsicht sollen klar voneinander abgegrenzt sein (GOVERN 3.2).

Für den laufenden Betrieb sieht der Rahmen Verfahren vor, mit denen Menschen, die das System nutzen oder von seinen Ergebnissen betroffen sind, Probleme melden und Ergebnisse anfechten können (MEASURE 3.3). Außerdem fordert er Regelungen dafür, Systementscheidungen aufzuheben und Systeme zu ersetzen, aus laufenden Prozessen herauszunehmen oder zu deaktivieren (MANAGE 2.4 und 4.1).

Das Rahmenwerk belegt nicht, dass solche Regelungen in jeder Organisation wirksam sind. Es macht aber deutlich, worauf es hier ankommt: Das Recht auf Einspruch und die Zuständigkeit dafür, Systementscheidungen aufzuheben oder Systeme abzuschalten, müssen in der Organisation ausdrücklich festgelegt sein. Die technische Gestaltung eines Systems kann solche Verfahren unterstützen. Das System kann sich diese Befugnisse jedoch nicht selbst geben.

Zwei getrennte Fragen beim Einsatz eines Systems

Wer ein KI-System beurteilt, muss deshalb zwei Fragen auseinanderhalten. Die erste betrifft das System selbst: Welche Operationen führt es aus? Welche Belege sprechen dafür, es als intelligent zu bezeichnen? Was ist noch ungeklärt? Jennings liefert dafür einen anspruchsvollen theoretischen Vorschlag.

Die zweite Frage betrifft den Einsatz in der Organisation. Wer legt den Zweck fest? Wer darf aufgrund einer Ausgabe eine Handlung freigeben? Wer verfügt über die Zeit, die Informationen und die Befugnis, zu widersprechen oder die Handlung zu stoppen? Wie kann ein Einwand noch rechtzeitig in die Entscheidung einfließen? Und wer trägt die Folgen?

Ob man dabei einen engen oder einen weiten Intelligenzbegriff zugrunde legt, beantwortet keine dieser Fragen. Entscheidend ist, was aufgrund der Ausgabe geschehen darf, wer dagegen eingreifen kann und wer verantwortlich bleibt.

Footnotes

1. Bernard Jennings, „The Architecture of Intelligence: Definition, Spectrum, and Ceiling“, Zenodo Working Paper, Version 01, 22. Mai 2026. Der Zenodo-Eintrag führt den Text als Working Paper. Jennings bezeichnet seine Definition als revisionär. Die acht Modi übernimmt er aus der Begleitarbeit Coherence Resolution Modes (CRM) in Autonomous Systems; die empirische Prüfung seines Kriteriums bleibt künftiger Forschung vorbehalten. ↩

2. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), Januar 2023. Das Rahmenwerk ist freiwillig, branchenübergreifend und nicht auf einen bestimmten Anwendungsfall zugeschnitten. Die genannten Unterpunkte beschreiben Soll-Zustände für das Risikomanagement; sie belegen nicht, dass die vorgeschlagenen Maßnahmen in der Praxis wirksam sind. ↩