Context Card
Den Betrieb nach einem Vorfall mit einem KI-Agenten wiederherstellen
Was lässt sich rückgängig machen, nachdem ein KI-Agent seine Grenze überschritten hat, was nicht – und wann dürfen der Agent und die Systeme, die er berührt hat, wieder laufen?
Die kurze Antwort
Die Wiederherstellung sortiert die Aktionen des Agenten: was sich zurücksetzen lässt, was eine Ausgleichsaktion braucht und was sich nur korrigieren oder reparieren lässt. Der Agent geht erst nach einer Freigabe nach Kriterien wieder in Betrieb – Ursache verstanden, Umfang und Zugangsdaten korrigiert, Daten mit den freigegebenen Ständen verglichen – und oft zuerst in eingeschränktem Modus. Maschinen und Linien laufen nach ihren eigenen Wiederanlaufregeln und mit Freigabe durch das Bedienpersonal an, nie auf Veranlassung des Agenten.
Für: Technische Projektleitung, Betriebsteams, Technische Redaktion und Entwicklung von Dokumentationssystemen
Das Wichtigste
- Ein Rollback stellt den Zustand eines Systems wieder her, nicht den der Welt: Was versandt, bezahlt oder produziert ist, bleibt geschehen.
- Auf nicht umkehrbare Aktionen folgen Ausgleichsaktionen, Korrekturen oder Reparaturen, festgehalten als eigene Schritte.
- Der Wiederanlauf braucht eine Freigabe nach Kriterien, oft zuerst in eingeschränktem Modus.
- Maschinen und Linien laufen nach ihren eigenen Wiederanlaufregeln an; ein Agent startet nie selbst eine Maschine.
- Die Nachbetrachtung aktualisiert den Umfang des Agenten, die Ablaufpläne und die Dokumentation.
Der Zusammenhang
Drei Arten von Aktionen
| Art | Beispiele | Wiederherstellung |
|---|---|---|
| Umkehrbar | Entwürfe, Branches, Änderungen in der Staging-Umgebung, versionierte Konfiguration | Rollback auf den letzten freigegebenen Stand |
| Mit Aufwand umkehrbar | Datenbankänderungen mit Sicherung, Rezepte und Parameter mit Versionshistorie | Wiederherstellen, mit dem freigegebenen Stand vergleichen, Konsistenz prüfen |
| Nicht umkehrbar | Versandte Nachrichten, Zahlungen, veröffentlichte Texte, installierte Firmware, bearbeitetes Material | Ausgleichsaktion, Korrekturhinweis, Rückruf, Reparatur |
Die Historie bleibt erhalten: Ausgleich fügt Datensätze hinzu, statt sie zu löschen, sodass Prüfpfad und Belege für Meldungen unversehrt bleiben.
Je Systemtyp
- IT-Systeme: Stornobuchungen im ERP, eine Korrekturmail an die Empfänger, gelöschte Cloud-Ressourcen aus dem Infrastruktur-Code wiederherstellen, ein veröffentlichtes Topic zurückziehen und durch den letzten freigegebenen Stand ersetzen.
- IoT-Flotten: Rollout anhalten, über die Luft zurücksetzen, wo Geräte noch erreichbar sind, Serviceeinsätze planen, wo nicht; die Flotte gestaffelt zurückholen – Testgruppe, kleine Welle, der Rest.
- OT: Sollwerte, Rezepte und SPS-Projekte mit den freigegebenen Ständen vergleichen; Rückänderungen folgen dem Änderungsmanagement; über die zwischenzeitlich produzierten Chargen entscheidet die Qualität.
- Maschinen und Linien: Nach der Eindämmung folgt der Wiederanlauf dem Schutz gegen Wiederanlauf der Maschine und bei einer Linie dem koordinierten Wiederanlauf, mit Freigabe durch das Bedienpersonal; Programme und Parameter vor dem ersten Zyklus auf den freigegebenen Stand setzen.
Die Freigabe
Der Wiederanlauf ist eine Entscheidung nach Kriterien: Die Ursache ist verstanden und eingedämmt, Umfang und Positivliste des Agenten sind korrigiert, seine Zugangsdaten sind neu, Daten und Konfigurationen sind mit den freigegebenen Ständen verglichen, die Überwachung läuft, und eine befugte Person gibt nachweislich frei. Oft kommt ein Agent mit weniger zurück: nur lesend, mit mehr Freigabeschritten oder für weniger Nutzende oder Geräte.
Die Nachbetrachtung
Die Nachbetrachtung prüft Grenze, Erkennung, Eindämmung, Wiederherstellung und Meldung und endet mit zugewiesenen Änderungen. Die Dokumentation ist eines ihrer Ergebnisse: die Beschreibung des Agenten, die Ablaufpläne, die Anweisungen für das Bedienpersonal und, wo Lesende nach falschen Informationen gehandelt haben, eine Korrektur, die sie finden.
Den Gesamtzusammenhang zeigt die Pathway-Map zu Grenzüberschreitungen von KI-Agenten.
Fragen, die sich daran anschließen
- Können wir einfach die Sicherung von gestern einspielen?
- Für ein System vielleicht – aber damit gehen auch die berechtigten Änderungen seither verloren, und die Wirkungen außerhalb des Systems erreicht man nicht. Vergleichen und korrigieren Sie gezielt, wo es geht, und behalten Sie die Historie.
- Wer gibt den Agenten wieder frei?
- Die im Grenzblatt benannte verantwortliche Person, nach den Freigabekriterien. Arbeitet der Agent mit OT oder Maschinen, stimmt der Anlagenbetrieb zu.
- Muss sich die technische Dokumentation nach einem Vorfall ändern?
- Oft ja: die Beschreibung des Agenten, seine Grenzen und die Anweisungen für die Personen, die ihn bedienen oder beaufsichtigen. Bei regulierten Produkten können Änderungen am Produkt auch eine Aktualisierung der technischen Dokumentation verlangen.
Quellen
- NIST SP 800-61 Rev. 3: Incident Response Recommendations and Considerations for Cybersecurity Risk Management — NIST, 3. April 2025
- Regulation (EU) 2023/1230 (Machinery Regulation) — EUR-Lex, 29. Juni 2023
Prüfprotokoll und Änderungen
Jede Context Card wird vor der Veröffentlichung und bei jeder Änderung erneut anhand ihrer Quellen geprüft; das Datum unter der Autorenzeile ist die letzte Prüfung. Korrekturen (etwas war falsch) und Ergänzungen (etwas fehlte) stehen unten mit Datum und Uhrzeit (deutsche Zeit). Tippfehler, Formatierung und Link-Korrekturen werden nicht aufgeführt.
Geprüft
Seit der Veröffentlichung keine Korrekturen oder Ergänzungen.