Glossary Updates16 neue Begriffe in den Glossaren · 12. November 2026, 21:23 CET
AI TechDocKnowledge
  • English (US)
  • English (UK)
  • Deutsch
Alle Context Cards

Context Card

Drei Verarbeitungszwecke, wenn KI die Fallbearbeitung unterstützt

Welche Verarbeitungszwecke müssen getrennt bleiben, wenn ein KI-System die Bearbeitung einzelner Fälle unterstützt?

Von knowledge.aitechdoc.world

Geprüft

Prüfprotokoll und Änderungen

Die kurze Antwort

Unterstützt ein KI-System die Fallbearbeitung, gehören mindestens drei Zwecke in getrennte Beschreibungen: die Entwicklung und Prüfung des Modells mit Daten, die aggregierte Analyse des Verfahrens und die Unterstützung im einzelnen Fall. Jeder Zweck hat eigene Datenbestände, eigene Grundlagen, eigene Aufbewahrung und eigene Aufsichtsvorkehrungen. Nachweise aus einem Zweck gelten nicht für einen anderen.

Für: Projektleitung und technische Redaktion in KI-Vorhaben der Verwaltung

Das Wichtigste

  • Entwicklungsdaten dienen dem Modell; sie entscheiden keinen Fall.
  • Die Verfahrensanalyse beschreibt Durchlauf und Engstellen, nicht eine antragstellende Person.
  • Die Unterstützung im Einzelfall erzeugt einen Vorschlag, den eine verantwortliche Person prüfen können muss.
  • Ein Treffer aus öffentlichen Quellen ist ein Prüfhinweis, keine feststehende Tatsache.
  • Die drei Zwecke brauchen getrennte Zugriffsrechte, Aufbewahrungsfristen und Aufzeichnungen.

Der Zusammenhang

Drei Zwecke, drei Datenbestände

Entwicklung ist der erste Zweck: Daten dienen dem Aufbau eines Modells und den Schritten Training, Validierung und Test, die zeigen, ob es sich wie vorgesehen verhält. Maßgeblich sind hier Herkunft, Repräsentativität und Datenqualität des Bestands sowie die Frage, ob er überhaupt personenbezogene Daten enthalten darf und unter welchen Bedingungen.

Verfahrensanalyse ist der zweite Zweck: aggregierte Zahlen zu Mengen, Dauern, Engstellen und Fehlerquoten. Solche Zahlen beschreiben einen Prozess, nicht eine Person, und verlieren ihren Wert, wenn sie unbemerkt zur Charakterisierung eines einzelnen Vorgangs weiterverwendet werden.

Unterstützung im Einzelfall ist der dritte Zweck: ein Vorschlag, ein Abgleich, ein Hinweis in einer Akte. Hier muss die verantwortliche Person erkennen können, worauf eine Ausgabe beruht, wie belastbar sie ist und was noch zu prüfen bleibt. Mit Stand Oktober 2026 enthält die KI-Verordnung der EU für Hochrisikosysteme getrennte Anforderungen an die Daten-Governance für Trainings-, Validierungs- und Testdatensätze und an die Menschliche Aufsicht während der Verwendung; sie betreffen verschiedene Gegenstände und ersetzen sich nicht gegenseitig.

Ein Treffer ist ein Hinweis, kein Befund

Der Abgleich von Antragsangaben mit öffentlich zugänglichen Internetdaten erzeugt Treffer. Ein Treffer lässt drei Fragen offen: Handelt es sich um dieselbe Person, wie verlässlich ist die Quelle, und hat der Inhalt rechtliches Gewicht für diese Entscheidung? Solange das ungeklärt ist, bleibt das Ergebnis ein Prüfhinweis – und sollte im System auch so dargestellt werden, nicht als bestätigter Widerspruch.

Was die Akte zeigen muss

Für jede Verarbeitung sollte die Technische Dokumentation Zweck, Datenherkunft, Zugriffsberechtigte, Aufbewahrungsdauer und die Stelle benennen, an der ein Mensch tatsächlich entscheidet. Die Trennung der Zwecke klärt für sich genommen nicht, ob eine Verarbeitung zulässig ist; diese Bewertung bleibt bei der verantwortlichen Stelle und ihrer rechtlichen Prüfung. Zeigen kann die Dokumentation, dass die drei Zwecke nicht stillschweigend verschmelzen – der häufigste Weg, auf dem Entwicklungsdaten eine Entscheidung beeinflussen, für die sie nie gedacht waren.

Fragen, die sich daran anschließen

Warum lassen sich Entwicklungsdaten nicht einfach im Einzelfall nutzen?
Sie wurden zusammengestellt, um Modellverhalten zu messen, mit eigener Auswahl, Annotation und Aufbewahrung. Der Einsatz im laufenden Fall ändert Zweck und Betroffenenkreis und braucht eine eigene Grundlage und Beschreibung.
Wer trägt die Verantwortung, wenn ein Vorschlag falsch ist?
Die Entscheidung bleibt bei der Person oder Stelle, die sie trifft. Ein System kann das praktikabel machen – durch sichtbare Quellen, Unsicherheiten und die bevorstehende Handlung – oder durch Zeitdruck und unerklärte Ausgaben erschweren.
Braucht aggregiertes Monitoring weniger Dokumentation?
Es braucht andere Dokumentation. Kennzahlendefinitionen, Aggregationsebene und das Risiko der Wiedererkennbarkeit sind wichtiger als Einzelfallerklärungen, denn kleine Gruppen können aggregierte Daten wieder personenbeziehbar machen.

Quellen

  1. Regulation (EU) 2024/1689 (Artificial Intelligence Act), consolidated text — Publications Office of the European Union (EUR-Lex), 27. Juli 2026
  2. Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 — NIST, 26. Januar 2023

Prüfprotokoll und Änderungen

Jede Context Card wird vor der Veröffentlichung und bei jeder Änderung erneut anhand ihrer Quellen geprüft; das Datum unter der Autorenzeile ist die letzte Prüfung. Korrekturen (etwas war falsch) und Ergänzungen (etwas fehlte) stehen unten mit Datum und Uhrzeit (deutsche Zeit). Tippfehler, Formatierung und Link-Korrekturen werden nicht aufgeführt.

Geprüft

Seit der Veröffentlichung keine Korrekturen oder Ergänzungen.