Zum Inhalt springen
Search the hub
Werkzeuge eng freigeben

Werkzeuge eng freigeben

Ein Agent darf nur die Werkzeuge, Daten und Aktionen bekommen, die er für seinen Zweck wirklich braucht.

Category
Data Governance
Reading time
2 min
Published
Tags
ai-agents permissions tool-scopes least-privilege access
Download PDF

Nachdem der Agent als Betriebsfläche verstanden ist, kommt die wichtigste technische Grenze: Welche Werkzeuge darf er nutzen, für welche Daten und in welcher Umgebung?

<- Vorheriger Teil · Nächster Teil ->

Einstieg

Ein Team gibt einem Agenten ein Admin-Token, weil es im Pilot schnell gehen soll. Der Agent soll eigentlich nur Supporttickets lesen und schließen. Mit dem Token könnte er aber auch andere Daten lesen, Einstellungen ändern oder Aktionen außerhalb des Supportprozesses starten.

Das Problem ist nicht böse Absicht. Das Problem ist ein zu breiter Schlüssel.

Begriffe vor dem Lesen

  • Permission Scope: Die genau begrenzte Berechtigung eines Werkzeugs.
  • Least Privilege: Nur so viele Rechte wie nötig, nicht so viele wie bequem.
  • Datenklasse: Art der betroffenen Daten, zum Beispiel Kundendaten, Zahlungsdaten oder interne Tickets.
  • Side Effect: Eine echte Wirkung im System, etwa Schreiben, Löschen, Senden oder Zahlen.
  • Default Deny: Alles ist verboten, was nicht ausdrücklich erlaubt wurde.

Entscheidung

Jedes Werkzeug auf der Allowlist braucht eine kleine Tool-Karte. Darin steht: Zweck, erlaubte Daten, erlaubte Aktionen, Umgebung, Risiko und wer die Freigabe verantwortet.

Ein gutes Werkzeug ist enger als ein menschliches Admin-Konto. Der Agent braucht nicht "alles im CRM", sondern vielleicht nur "Supportticket lesen" und "Supportticket schließen" für eine bestimmte Queue.

Mini-Fall

Der Support-Agent soll Tickets schließen. Die Tool-Karte erlaubt nur Tickets aus der Support-Queue, nur den Statuswechsel auf "geschlossen" und nur in der produktiven Supportanwendung. Kundenzahlungen, Benutzerrechte und Stammdaten bleiben außerhalb des Scopes.

Ein Negativtest versucht bewusst, ein Ticket aus einer anderen Queue zu schließen. Dieser Versuch muss scheitern. Erst dann ist klar, dass die technische Grenze wirklich hält.

Woran du schlechte Praxis erkennst

  • Ein gemeinsames Token darf alles.
  • Scopes stehen im Wiki, sind technisch aber nicht durchgesetzt.
  • "Nur für den Notfall" gibt es dauerhafte Extra-Rechte.
  • Es werden nur Erfolgstests gefahren.
  • Ein neues Werkzeug wird als kleine Prompt-Änderung behandelt.

Umsetzung im Alltag

Erstelle zuerst Tool-Karten für die produktiven Werkzeuge eines Agenten. Reduziere danach zu breite Rechte. Starte lieber mit leerer Allowlist und füge ein Werkzeug nach dem anderen hinzu.

Nächster Schritt

<- Vorheriger Teil · Nächster Teil ->

Agent and tool-calling operations

Part 2 of 5

View series

Knowledge check

Tour