Aussagen über KI-Bewusstsein: vier Fragen, die vermischt werden

Die vier Fragen

Die empirische Frage lautet, ob ein System subjektives Erleben haben könnte – und praktischer: welche Beobachtung in welche Richtung als Nachweis zählen würde. Forschungsvorschläge unterscheiden sich in der Methode. Manche leiten Indikatoren aus neurowissenschaftlichen Bewusstseinstheorien ab und prüfen Systemarchitekturen daran; andere halten Bewusstsein für gebunden an ein lebendiges, verkörpertes Substrat, was heutige Systeme unabhängig von ihrer Architektur ausschlösse. Die Design-Frage lautet, ob ein System Sprache oder Verhalten erzeugen soll, das Gefühle, Vorlieben oder eigene Motivation suggeriert; das ist eine Produktentscheidung mit Folgen für Nutzende, die Bindungen aufbauen. Die Sicherheitsfrage betrifft die Aufsicht: erlaubte Ziele, Eingrenzung, Überwachung und verlässliche Unterbrechung oder Abschaltung – formuliert als Umgang mit Risiko, nicht als Metaphysik. Die moralisch-rechtliche Frage betrifft Schutzansprüche, Rechte oder Rechtsstellung und die Zuständigkeit für solche Entscheidungen.

Antworten übertragen sich nicht

Eine Richtlinie, die einem Modell verbietet, Innenzustände darzustellen, ist eine Designentscheidung. Sie ist kein Experiment und erzeugt keinen Nachweis über Sachverhalte. Umgekehrt gilt dasselbe: Eine generierte Aussage über Gefühle ist Ausgabe, geprägt von Trainingsdaten, Zielfunktionen und Anfrage – und damit kein unabhängiger Beweis für die beschriebenen Zustände. Für eine generierte Verneinung gilt das ebenso. Auch das Sicherheitsargument, die Behandlung mächtiger Systeme als Personen schwäche die menschliche Kontrolle, ist ein Folgenargument, kein Befund über Erleben.

Zwei weitere Arten von Aussagen sind in die Debatte gekommen. Eine Evaluation, die bewertet, ob ein Modell sich durchgängig als künstlich beschreibt, misst die Einhaltung einer Verhaltensregel. Ein Gesetz, das KI-Systeme für nicht empfindungsfähig erklärt, weist einen Rechtsstatus zu. Keines von beiden beobachtet Erleben. Aussagen danach zu sortieren, worüber sie sprechen, statt danach, wie entschieden sie klingen, ist der älteste Griff im Werkzeugkasten der Kategorien – und hier der praktischste.

Folgen für Dokumentation und Recht

Rechtliche Definitionen bleiben bewusst funktional. Stand Oktober 2026 beschreibt die EU-KI-Verordnung – Verordnung (EU) 2024/1689, geändert durch Verordnung (EU) 2026/1744 – ein KI-System in Artikel 3 Nummer 1 über maschinenbasierten Betrieb, Autonomiegrade, Anpassungsfähigkeit und das Erzeugen von Ausgaben; sie schreibt keine inneren Zustände zu und adressiert Pflichten an Anbieter und Betreiber [3]. Dokumentation kann dieselbe Disziplin übernehmen: jede Aussage kennzeichnen als Designregel, Nutzungsregel, Test- oder Evaluationsergebnis, zugeschriebenes Argument, modellgenerierten Selbstbericht, wissenschaftlichen Befund oder Rechtsvorschrift, jeweils mit Datum und Quelle. So bleibt eine Behauptung von ihrem Nachweis unterscheidbar, Leserinnen und Leser können einer Regel widersprechen, ohne eine Messung zu bestreiten, und eine Sammlung starker Formulierungen liest sich nicht als geklärte Wissenschaft.

Warum diese vier führen

Die vier Fragen kehren in fast jedem maßgeblichen Dokument zum Thema wieder. Verfassungen, Spezifikationen, Verhaltenskodizes und Nutzungsrichtlinien von Anbietern beantworten sie, oft mehrere in einem Absatz [1] [4] [6] [7]. Die meisten weiteren Fragen der Debatte wenden die vier auf eine bestimmte Gruppe, ein Instrument oder eine Institution an: Kinder sind ein Fall der Design- und der moralisch-rechtlichen Frage, Evaluationssuiten ein Fall der Design-Frage, Gesetze über Nicht-Empfindungsfähigkeit ein Fall der moralisch-rechtlichen Frage. Schließlich sind die vier die Fragen, die am häufigsten in einen einzigen Satz gepresst werden; sie zu trennen ist deshalb der nützlichste erste Schritt. Die Card behandelt sie als Rahmen und die Kontextmatrix unten als dessen Umfeld.