Agenten als gesteuerte Arbeitsflächen
Agenten sind mehr als Chatfenster, sobald sie Werkzeuge nutzen. Diese Story erklärt den Betriebsrahmen: Identität, Werkzeuge, Freigabe, Kosten und Rückbau.
Ein KI-Agent wird riskant, sobald er nicht nur antwortet, sondern Werkzeuge nutzt: Tickets schließen, Daten ändern, E-Mails senden, Zahlungen vorbereiten oder Rechte setzen. Dann ist der Agent keine Demo mehr, sondern eine Arbeitsfläche mit Wirkung im Unternehmen.
Diese Serie erklärt, wie so ein Agent betrieben wird, ohne dass Fachbereich, IT und Governance aneinander vorbeiarbeiten. Der Fachbereich entscheidet Zweck und Risiko. Die IT setzt Identität, Werkzeuge und Grenzen technisch um. Governance sorgt dafür, dass Entscheidungen nachvollziehbar bleiben.
Einstieg
Ein Support-Agent beantwortet Kundenfragen zuverlässig. Danach soll er Tickets schließen und Erstattungen vorbereiten. Das klingt nach Effizienz, ist aber ein anderer Risikotyp: Jetzt entstehen echte Änderungen in Systemen.
Wenn derselbe Agent ein gemeinsames Bot-Konto nutzt, zu viele Werkzeuge sieht und keine Kosten- oder Stoppgrenzen hat, kann ein Fehler schnell groß werden. Niemand weiß dann sicher, welche Tickets geändert wurden, welche Zahlungen betroffen sind und welches Werkzeug sofort gesperrt werden muss.
Begriffe vor dem Lesen
- Agent: Eine KI-Anwendung, die Aufgaben ausführt und dafür Werkzeuge aufrufen kann.
- Tool: Eine technische Funktion, zum Beispiel "Ticket schließen", "Adresse ändern" oder "Erstattung anlegen".
- Laufzeit-Identität: Das technische Konto, mit dem der Agent handelt.
- Allowlist: Die Liste der Werkzeuge, die der Agent nutzen darf.
- HITL: Human in the Loop, also menschliche Freigabe vor einer kritischen Aktion.
- Cost Cap: Eine harte Grenze für Kosten oder Aufrufe.
- Rollback: Ein vorbereiteter Weg, falsche Änderungen zurückzunehmen oder zu kompensieren.
Was diese Serie klärt
Die Serie besteht aus fünf Teilen: Überblick, Werkzeugrechte, menschliche Freigabe und Audit, Kosten- und Missbrauchsgrenzen, Incident und Rückbau.
Entscheidung
Jeder produktive Agent braucht einen Betriebsvertrag. Darin steht, wofür der Agent da ist, welches technische Konto er nutzt, welche Werkzeuge erlaubt sind, welche Aktionen ein Mensch freigeben muss, welche Kostenlimits gelten und was bei einem Fehler passiert.
Der wichtigste Punkt: Wer ein Werkzeug technisch freischalten kann, entscheidet nicht automatisch, ob der Agent es fachlich nutzen darf. Diese Entscheidung gehört zum Owner des Prozesses oder Kanals.
Mini-Fall
Der Support-Agent darf Antworten vorschlagen. Nun soll er Tickets schließen. Dafür bekommt er ein eigenes Service-Konto, nur Zugriff auf Supporttickets, ein Limit für Massenänderungen und eine Prüfspur pro Aktion. Erstattungen bleiben zunächst gesperrt, bis ein eigener Prüfpunkt dafür existiert.
So bleibt der Nutzen erhalten, aber der mögliche Schaden begrenzt. Wenn ein Fehler passiert, kann das Team sehen, welcher Agent mit welchem Werkzeug welche Tickets geändert hat.
Woran du schlechte Praxis erkennst
- Ein gemeinsames Bot-Konto wird für mehrere Bereiche genutzt.
- Die Demo nutzt produktive Zugangsdaten.
- Neue Werkzeuge werden ohne fachliche Entscheidung freigeschaltet.
- Es gibt menschliche Freigabe nur auf Folien, aber nicht im System.
- Kosten werden beobachtet, aber nicht automatisch gestoppt.
- Rückbau bedeutet nur: "Prompt zurücksetzen".
Umsetzung im Alltag
Starte mit einem echten Agentenpfad. Schreibe Zweck, Owner, technische Identität, erlaubte Werkzeuge, Freigabegrenzen, Kostenlimits und Rückbauweg in ein kurzes Betriebsblatt. Danach wird erst technisch freigeschaltet.
Nächster Schritt
Agent and tool-calling operations
Part 1 of 5
View series