GenAI: Routing, Speicherung und Training kontrollieren

Begriffe vor dem Lesen

• Routing bestimmt, welches Modell und welche Region eine Anfrage verarbeitet.
• Ein Trainingsverbot untersagt, Eingaben, Ausgaben oder Nutzungsdaten für Anbietertraining zu verwenden.
• Retrieval-Augmented Generation (RAG) ergänzt eine Anfrage mit ausgewählten Unternehmensdaten.

Ausgangslage

Eine GenAI-Oberfläche trägt einen EU-Endpunkt, kann Anfragen aber je nach Modell, Auslastung oder Funktion anders weiterleiten. Zusätzlich können Protokolle, Sicherheitsprüfung und Produktverbesserung eigene Datenpfade erzeugen.

Kontrollpunkte

Erlaubte Modelle, Regionen und Zwecke werden technisch begrenzt. Vertrag und Konfiguration klären Speicherung, Protokollierung, Training, menschliche Prüfung und Unterauftragnehmer. RAG-Quellen behalten ihre Zugriffsregeln; das Modell darf keine Dokumente erhalten, die der Nutzer nicht lesen darf.

Die Datenschutzbewertung bleibt einzelfallbezogen. Ein Modell ist nicht allein deshalb anonym, weil es keine Datenbankzeilen enthält; mögliche Extraktion und personenbezogene Ausgaben müssen berücksichtigt werden.

Beispiel

Ein interner Assistent darf freigegebene Richtlinien verwenden. Personenbezogene Tickets sind ausgeschlossen. Routing ist auf genehmigte Modelle beschränkt, Training deaktiviert und Protokollaufbewahrung festgelegt. Tests prüfen unerlaubte Quellen und Ausweichrouting.

Änderungen im Betrieb

Modellanbieter ändern Versionen, Regionen und Sicherheitsfunktionen. Deshalb wird nicht nur der erste Einkauf geprüft. Modellwechsel, neue Werkzeuge, aktivierte Protokollierung oder zusätzliche Datenquellen lösen eine erneute Bewertung aus. Nutzer sehen außerdem, welche Informationen nicht eingegeben werden dürfen und wohin sie Vorfälle melden.

Prüffragen

• Sind Modell, Region und Zweck je Nutzung bekannt?
• Sind Training und Aufbewahrung ausdrücklich geregelt?
• Erzwingt RAG die Rechte des Nutzers?
• Werden Änderungen am Routing erneut geprüft?