Zum Inhalt springen
Search the hub
Freigaben und Prüfspur verbinden

Freigaben und Prüfspur verbinden

Kritische Agent-Aktionen brauchen menschliche Freigabe und eine Prüfspur, die später wirklich erklärt, was passiert ist.

Category
Data Governance
Reading time
2 min
Published
Tags
ai-agents audit human-in-the-loop controls evidence
Download PDF

Ein enger Tool-Scope reicht nicht, wenn kritische Aktionen trotzdem unbeaufsichtigt laufen. Für Zahlungen, Rechte, externe Nachrichten oder irreversible Änderungen braucht der Agent eine Freigabe vor der Ausführung und eine Prüfspur danach.

<- Vorheriger Teil · Nächster Teil ->

Einstieg

Ein Agent bereitet eine Erstattung vor. Im Chat schreibt jemand "passt". Später fragt Finance, wer diese Erstattung freigegeben hat und auf Basis welcher Information. Der Chat ist unvollständig, die Aktion hat keine Call-ID, und der Freigeber ist nicht eindeutig.

So entsteht keine Governance. Eine Freigabe muss an den konkreten Werkzeugaufruf gebunden sein.

Begriffe vor dem Lesen

  • Audit Trail: Eine nachvollziehbare Spur je Aktion: wer, was, wann, womit, Ergebnis.
  • Call-ID: Eine eindeutige Kennung für einen Werkzeugaufruf.
  • HITL-Gate: Ein technischer Halt, bis ein Mensch freigibt oder ablehnt.
  • Redaction: Entfernen oder Maskieren sensibler Inhalte aus Logs.
  • Timeout: Ablauf einer Freigabezeit; bei kritischen Aktionen darf das nicht automatisch zustimmen.

Entscheidung

Für jedes kritische Werkzeug wird festgelegt, ob es automatisch laufen darf, eine einfache Freigabe braucht oder doppelte Kontrolle erfordert. Die Freigabe erfolgt im System, nicht nur in einem privaten Chat.

Der Audit Trail speichert nicht wahllos alles. Er speichert genug, um die Entscheidung zu rekonstruieren, und schützt gleichzeitig Geheimnisse und personenbezogene Daten.

Mini-Fall

Der Agent will eine Erstattung über 200 Euro vorbereiten. Das Gate stoppt den Aufruf. Die freigebende Person sieht Kundennummer, Ticketgrund, Betrag, Regelgrundlage und Call-ID. Sie genehmigt oder lehnt ab. Beides landet in der Prüfspur.

Wenn die Freigabe ausläuft, wird nicht automatisch genehmigt. Der Vorgang bleibt stehen oder wird als Incident behandelt.

Woran du schlechte Praxis erkennst

  • "LGTM" in Slack ersetzt die Freigabe.
  • Ein Timeout genehmigt automatisch.
  • Geheimnisse landen im Klartext im Log.
  • Alle Freigaben laufen über ein gemeinsames Konto.
  • Niemand prüft, ob Freigaben nur noch durchgeklickt werden.

Umsetzung im Alltag

Beginne mit einem kritischen Werkzeug. Lege fest, wer freigeben darf, welche Informationen sichtbar sein müssen und was bei Timeout passiert. Prüfe danach Stichproben: Waren die Freigaben begründet oder nur Routineklicks?

Nächster Schritt

<- Vorheriger Teil · Nächster Teil ->

Agent and tool-calling operations

Part 3 of 5

View series

Knowledge check

Tour