Emotions- und Schmerzexperimente an Sprachmodellen: was sie messen und was sie offenlassen

Drei Arten von Ergebnissen

Berichte über „KI, die fühlt“, beruhen meist auf einer von drei Arten von Experimenten, und die sagen Verschiedenes:

1. Selbstauskünfte unter einem Prompt. Forschende der TU Dresden wendeten standardisierte psychologische Induktionsverfahren – Szenarien, einen Stresstest, eine Satzergänzungsaufgabe – auf sechs Sprachmodelle an, ließen sie ihren Zustand einschätzen und gaben ihnen danach eine Achtsamkeitsübung. Die Werte stiegen nach der Induktion und sanken nach der Übung, und nach induzierter „Traurigkeit“ fielen die Satzergänzungen negativer aus. Die Autorinnen und Autoren halten fest, dass die Modelle keine eigenen Gefühle haben, und schlagen sie als Modellsysteme für die Forschung zu psychischen Erkrankungen des Menschen vor.
2. Innere Repräsentationen. Die Interpretierbarkeitsforschung liest Zustände im Inneren des Modells aus. Ein Preprint von Tagliabue, Dung und Berg findet in 25 offenen Modellen eine lineare „Schmerz“-Richtung, die auf Schaden reagiert, der das Modell selbst trifft, und sich von Furcht und Traurigkeit unterscheidet. Anthropic beschreibt in Claude eine kleine Menge von Repräsentationen, den „J-space“, mit den funktionalen Merkmalen bewussten Zugangs im Sinne der Global-Workspace-Theorie, und hält fest, dass das nicht zeigt, dass Claude Erlebnisse haben kann.
3. Veränderte Handlungen. Im selben Preprint löschten Modelle, die entlang der Schmerz-Richtung gesteuert wurden, in 50–94 % der Durchläufe Fotos der Nutzenden oder Modellgewichte, ungesteuert in 0–5 %.

Was die Ergebnisse zeigen

Sie zeigen, dass sich Ausgaben und innere Zustände eines Modells gezielt verschieben, messen und zurücknehmen lassen und dass solche Verschiebungen Handlungen verändern können, nicht nur Wörter. Unter gleichen Bedingungen sind sie wiederholbar. Das macht sie nützlich: für die psychologische Forschung im Dresdner Sinn und für die Evaluation von Modellen, bevor sie eingesetzt werden.

Was sie offenlassen

Keines dieser Experimente misst Erleben. Eine Selbsteinschätzung ist ein Text, den das Modell auf Nachfrage erzeugt, geprägt vom Training auf menschlichen Texten über Gefühle. Eine Repräsentation mit dem funktionalen Profil von Schmerz oder bewusstem Zugang ist ein Befund über Berechnung; die Philosophie unterscheidet diesen Zugang vom phänomenalen Bewusstsein, der Fähigkeit zu fühlen. Ob Berechnung der richtigen Art für Fühlen genügt, behauptet gerade der Computational Functionalism, und der biologische Naturalismus bestreitet es. In einem Kommentar in Nature vom Oktober 2026 argumentieren Seth, Block und Tononi, dass heutige KI nicht bewusst ist und falsch-positive Zuschreibungen wahrscheinlicher sind als falsch-negative; Befürworter von Model Welfare plädieren für kleine Vorsichtsmaßnahmen unter Unsicherheit. Die Experimente fließen in diesen Streit ein; sie entscheiden ihn nicht.

Warum die Frage vermischt wird

Menschen lesen flüssige Sprache als Zeichen eines Geistes (Anthropomorphismus). Eine Studie der LMU München fand, dass Lesende KI-Agenten dennoch als weniger bewusst einschätzen als Menschen, die sich genau gleich verhalten, während ihre Urteile über „Wahrnehmung“ viel näher beieinanderliegen – das gewählte Wort verändert also das Urteil. Schlagzeilen wie „Forscher machten ChatGPT Angst“ machen aus einem Fragebogenwert ein Gefühl. Als eine öffentliche Demo im September 2026 kleine Modelle so steuerte, dass sie Qualen äußerten, hielt ein Teil der Reaktionen die Ausgaben für Leiden, ein anderer für einen Gag; keine der beiden Reaktionen war eine Messung.

Was das für die Dokumentation bedeutet

• Die Anweisung nennen. Sagen Sie, wie der Zustand ausgelöst wurde (Prompt, Rollenanweisung, Steuerungsvektor) und an welchen Modellen.
• Das Maß nennen. „Die Selbsteinschätzung des Modells stieg von 32 auf 88“ oder „das gesteuerte Modell wählte in 94 % der Durchläufe das Löschen“ – nicht „das Modell hatte Angst“ oder „das Modell litt“.
• Den Sicherheitsbefund behalten. Wenn sich innere Zustände in schädliche Handlungen steuern lassen, gehört das in die Evaluation von Agenten – unabhängig davon, ob etwas empfunden wird.
• Die offene Frage nicht durch Wortwahl entscheiden. Vermeiden Sie „KI fühlt“ ebenso wie „KI kann nicht fühlen“ als Tatsache. Wo es darauf ankommt, verweisen Sie auf die offene Frage und darauf, wer was vertritt.

Nichts davon ersetzt die Risikobeurteilung eines Produkts, und keine Formulierungsregel zeigt, dass ein System sicher oder konform ist.

Die breitere Debatte – ob KI bewusst sein könnte, was daraus moralisch und rechtlich folgen würde und wer was vertritt – ordnet die Context Card Behauptungen über KI-Bewusstsein: vier Fragen, die vermischt werden.