Werkzeuge eng freigeben
Ein Agent darf nur die Werkzeuge, Daten und Aktionen bekommen, die er für seinen Zweck wirklich braucht.
Nachdem der Agent als Betriebsfläche verstanden ist, kommt die wichtigste technische Grenze: Welche Werkzeuge darf er nutzen, für welche Daten und in welcher Umgebung?
Einstieg
Ein Team gibt einem Agenten ein Admin-Token, weil es im Pilot schnell gehen soll. Der Agent soll eigentlich nur Supporttickets lesen und schließen. Mit dem Token könnte er aber auch andere Daten lesen, Einstellungen ändern oder Aktionen außerhalb des Supportprozesses starten.
Das Problem ist nicht böse Absicht. Das Problem ist ein zu breiter Schlüssel.
Begriffe vor dem Lesen
- Permission Scope: Die genau begrenzte Berechtigung eines Werkzeugs.
- Least Privilege: Nur so viele Rechte wie nötig, nicht so viele wie bequem.
- Datenklasse: Art der betroffenen Daten, zum Beispiel Kundendaten, Zahlungsdaten oder interne Tickets.
- Side Effect: Eine echte Wirkung im System, etwa Schreiben, Löschen, Senden oder Zahlen.
- Default Deny: Alles ist verboten, was nicht ausdrücklich erlaubt wurde.
Entscheidung
Jedes Werkzeug auf der Allowlist braucht eine kleine Tool-Karte. Darin steht: Zweck, erlaubte Daten, erlaubte Aktionen, Umgebung, Risiko und wer die Freigabe verantwortet.
Ein gutes Werkzeug ist enger als ein menschliches Admin-Konto. Der Agent braucht nicht "alles im CRM", sondern vielleicht nur "Supportticket lesen" und "Supportticket schließen" für eine bestimmte Queue.
Mini-Fall
Der Support-Agent soll Tickets schließen. Die Tool-Karte erlaubt nur Tickets aus der Support-Queue, nur den Statuswechsel auf "geschlossen" und nur in der produktiven Supportanwendung. Kundenzahlungen, Benutzerrechte und Stammdaten bleiben außerhalb des Scopes.
Ein Negativtest versucht bewusst, ein Ticket aus einer anderen Queue zu schließen. Dieser Versuch muss scheitern. Erst dann ist klar, dass die technische Grenze wirklich hält.
Woran du schlechte Praxis erkennst
- Ein gemeinsames Token darf alles.
- Scopes stehen im Wiki, sind technisch aber nicht durchgesetzt.
- "Nur für den Notfall" gibt es dauerhafte Extra-Rechte.
- Es werden nur Erfolgstests gefahren.
- Ein neues Werkzeug wird als kleine Prompt-Änderung behandelt.
Umsetzung im Alltag
Erstelle zuerst Tool-Karten für die produktiven Werkzeuge eines Agenten. Reduziere danach zu breite Rechte. Starte lieber mit leerer Allowlist und füge ein Werkzeug nach dem anderen hinzu.
Nächster Schritt
Agent and tool-calling operations
Part 2 of 5
View series