Freigaben und Prüfspur verbinden
Kritische Agent-Aktionen brauchen menschliche Freigabe und eine Prüfspur, die später wirklich erklärt, was passiert ist.
Ein enger Tool-Scope reicht nicht, wenn kritische Aktionen trotzdem unbeaufsichtigt laufen. Für Zahlungen, Rechte, externe Nachrichten oder irreversible Änderungen braucht der Agent eine Freigabe vor der Ausführung und eine Prüfspur danach.
Einstieg
Ein Agent bereitet eine Erstattung vor. Im Chat schreibt jemand "passt". Später fragt Finance, wer diese Erstattung freigegeben hat und auf Basis welcher Information. Der Chat ist unvollständig, die Aktion hat keine Call-ID, und der Freigeber ist nicht eindeutig.
So entsteht keine Governance. Eine Freigabe muss an den konkreten Werkzeugaufruf gebunden sein.
Begriffe vor dem Lesen
- Audit Trail: Eine nachvollziehbare Spur je Aktion: wer, was, wann, womit, Ergebnis.
- Call-ID: Eine eindeutige Kennung für einen Werkzeugaufruf.
- HITL-Gate: Ein technischer Halt, bis ein Mensch freigibt oder ablehnt.
- Redaction: Entfernen oder Maskieren sensibler Inhalte aus Logs.
- Timeout: Ablauf einer Freigabezeit; bei kritischen Aktionen darf das nicht automatisch zustimmen.
Entscheidung
Für jedes kritische Werkzeug wird festgelegt, ob es automatisch laufen darf, eine einfache Freigabe braucht oder doppelte Kontrolle erfordert. Die Freigabe erfolgt im System, nicht nur in einem privaten Chat.
Der Audit Trail speichert nicht wahllos alles. Er speichert genug, um die Entscheidung zu rekonstruieren, und schützt gleichzeitig Geheimnisse und personenbezogene Daten.
Mini-Fall
Der Agent will eine Erstattung über 200 Euro vorbereiten. Das Gate stoppt den Aufruf. Die freigebende Person sieht Kundennummer, Ticketgrund, Betrag, Regelgrundlage und Call-ID. Sie genehmigt oder lehnt ab. Beides landet in der Prüfspur.
Wenn die Freigabe ausläuft, wird nicht automatisch genehmigt. Der Vorgang bleibt stehen oder wird als Incident behandelt.
Woran du schlechte Praxis erkennst
- "LGTM" in Slack ersetzt die Freigabe.
- Ein Timeout genehmigt automatisch.
- Geheimnisse landen im Klartext im Log.
- Alle Freigaben laufen über ein gemeinsames Konto.
- Niemand prüft, ob Freigaben nur noch durchgeklickt werden.
Umsetzung im Alltag
Beginne mit einem kritischen Werkzeug. Lege fest, wer freigeben darf, welche Informationen sichtbar sein müssen und was bei Timeout passiert. Prüfe danach Stichproben: Waren die Freigaben begründet oder nur Routineklicks?
Nächster Schritt
Agent and tool-calling operations
Part 3 of 5
View series