Shadow AI vs. freigegebene Pfade
Ein erlaubtes KI-Produkt bleibt teuer und unzuverlässig, wenn Nutzungswege, Datenstände, Werkzeuge und Ausnahmen unkontrolliert wachsen. Ein benannter KI-Nutzungspfad verbindet Zweck, Zuständigkeit, Modell- und Datenversion, Evaluation, erlaubte Aktionen und Betriebsreaktion.
Das Unternehmensproblem und der umsetzbare Auftrag
Ein erlaubtes KI-Produkt bleibt teuer und unzuverlässig, wenn Nutzungswege, Datenstände, Werkzeuge und Ausnahmen unkontrolliert wachsen.
Ein benannter KI-Nutzungspfad verbindet Zweck, Zuständigkeit, Modell- und Datenversion, Evaluation, erlaubte Aktionen und Betriebsreaktion.
Wirtschaftliche Wirkung prüfen
Messe Ausgaben je brauchbarem Ergebnis, unnötige Wiederholungen, Reindexierung und Bearbeitungszeit für Abweichungen. Betrachte Nutzen und Qualität zusammen mit Betriebs- und Kontrollaufwand. Kapazitätsgewinn, tatsächlich vermeidbare Ausgaben und Qualitätswirkung werden getrennt ausgewiesen.
Veränderung im Alltag verankern
Die Fachrolle übernimmt den Einsatz und seine Grenzen. Beschäftigte erhalten einen nutzbaren freigegebenen Weg; Betreiber setzen Freigaben und Ausnahmen wirksam um.
Für die Nutzenentscheidung dient Nutzen im ersten Review prüfen; für Mandat, Kapazität und tatsächliche Übernahme Change und Adoption. Wähle den kleinsten Umfang, der das Problem nachweisbar verbessert.
Was aus dem vorherigen Schritt ankommt
Ein erlaubter Datenbestand allein definiert noch keinen erlaubten Nutzungsweg. Verbinde Zweck, Datenklasse, Dienst und tatsächlich verwendeten Account zu einem benannten Pfad.
Ausgangspunkt: Metadaten für AI, RAG und Modelltraining vorbereiten — Vertrauenswürdigen und berechtigungsbewussten Kontext für Retrieval und Lernen schaffen.
Governance für freigegebene KI beginnt nicht mit einer Strategiefolie. Sie beginnt mit der nachvollziehbaren Entscheidung, welcher konkrete Nutzungspfad Kunden- oder Unternehmensdaten verarbeiten darf und welche unbekannte Nutzung bis zur Prüfung als Schatten-KI gilt.
Typische Fragen sind:
- Welche Tools, Uploads, Keys, Plugins und POCs laufen heute außerhalb des Tenants?
- Welche Pfade sind
shadow,candidateodersanctioned? - Welche Datenklassen verlassen den Tenant, und wer ist Path-verantwortliche Person?
- Welche Datenschutzvertrag, welches Logging und welcher Auskunfts- und Löschrechte-Kontakt hängen am freigegebenen KI-Nutzungspfad?
- Welche neuen Shadow-Pfade werden im Pilot eingefroren?
- Welche Leadership-Frage muss beantwortbar sein — welche KI darf heute Kundendaten berühren?
Wenn Policy-PDF, öffentlicher Chat und Vorstandskarte auseinanderlaufen, gilt „wir haben eine AI-Strategie“, der Forecast landet im Free-Tier, und Security findet den Pfad nach Leak oder DSDR. Das Problem ist nicht der Browser. Es ist der fehlende Vertrag zwischen Register, Path-Katalog und Zweck.
Gute Sanctioned-AI-Ops macht den freigegebenen Pfad zum leichten Pfad — Inventar, Zweck und Controls am selben Path, nicht am neuesten Chat-Tab.
Anschluss an AI Foundations, Datenmüll vor AI und Workplace AI Governance.
Weiter: AI Act als Operating Model.
Ausgangslage
Ein Mitarbeiter fügt den Q4-Forecast in einen öffentlichen Chat. Die Policy sagt „kein PII in externe AI“ als PDF. Es gibt kein Inventar. Subject-Daten können in Vendor-Logs liegen. Der Vorstand hört „wir haben eine AI-Strategie“. Teams kaufen dann CASB oder taggen Tools approved — und der nächste Notebook-Key umgeht denselben Katalog.
Was diese Serie klärt
- Orientierung: Shadow-Register, Sanctioned-Path-Katalog, Zweck und Datenklasse (diese Seite)
- Vertiefung: KI Act als Operating Model
- Vertiefung: Model- und Dataset-Cards, Synthetic Data, Dokumentbestand-Supply-Chain, KI-Suche-Eval, Agents/menschliche Freigabe, Cost/Lineage (Teile 3–8)
- Workplace-Nutzungsrichtlinie und Literacy nach dem Katalog: Workplace KI Governance
Begriffe vor dem Lesen
- Shadow KI — Nutzung außerhalb governter Pfade: öffentlicher Chat, persönlicher Key, unsanktionierter Plugin, Dienstleister-POC mit Live-CSV.
- freigegebenen KI-Nutzungspfad — freigegebener Weg mit Modell/Provider, Zweck, Datenklassen, Owner, Steward, Logging, Ausstieg-Kriterien.
- Shadow-Register — Inventar vor dem Verbot: Tools, Uploads, Keys, Plugins, verantwortliche Person, Status
shadow|candidate|sanctioned. - Datenschutzvertrag — AV-Vertrag, bevor personenbezogene Daten in Dienstleister-KI gehen. Ein Trust-Center-Link ist keine Datenschutzvertrag.
- Tenant Kontrollregeln — Admin-Einstellungen, die Prompts, Daten und Trainingsflags im Enterprise-Tenant halten.
- Nutzungsrichtlinie — Acceptable Use für Mitarbeitende — folgt dem Path-Katalog, erfindet ihn nicht neu.
Produkte und Entscheidungen
Freigabe auf konkreten Zweck und Datenklassen begrenzen. Ein grüner Produktname allein genehmigt keine beliebige Nutzung. Unbekannte Pfade mit zuständiger Klärung und Review verfolgen. Ein Register muss Unsicherheit sichtbar bearbeiten statt pauschal Freigabe zu behaupten. Inventarstatus und freigegebener Nutzungspfad sind unterschiedliche Reifestände. Eine Richtlinie ersetzt kein Inventar der realen Nutzung.
Sanctioned AI braucht nicht „eine Tool-Liste“, sondern geschnittene Produkte.
Shadow-AI-Register
Dieses Produkt beschreibt:
- Tool-/Endpoint-ID; Dienstleister; Deployment (public / private / on-prem); berührte Datenklassen; Upload verlässt Tenant ja/nein; verantwortliche Person; Status
shadow|candidate|sanctioned; Reviewdatum.
Entscheidungen:
- Was wird zuerst inventarisiert — Chat, Keys, Plugins, POCs?; Wer darf Status heben — Path-verantwortliche Person plus Privacy/Security?; Welche „wir verbieten KI“-Richtlinie ohne Register gilt als Lücke?
freigegebenen KI-Nutzungspfad Catalog (sanctioned-paths-v1)
Produktionsfähig nur mit Zweck.
Es benötigt:
- Modell/Provider; erlaubte Zwecke und Nicht-Ziele; Datenklassen und Residency; verantwortliche Person; Steward; Logging; Aufbewahrungsfrist; Auskunfts- und Löschrechte-Kontakt; Ausstieg-Kriterien.
Entscheidungen:
- Welche fünf Pfade sind kritisch genug für v1?; Wer ist Path-verantwortliche Person, nicht nur Tenant-Admin?; Welche leere Zeile blockt Produktion, statt „Strategie“ zu heißen?
Zweck- und Datenklassen-Bindung
Nicht nach Vendor-Marke.
Entscheidungen:
- Welche Klasse darf welchen Path berühren?; Welche Exports sind standardmäßig verboten im öffentlichen Chat?; Wer friert neue Shadow-Pfade im Pilot ein?
DPA- und Tenant-Hinweis
Dieser Teil besitzt Inventar und Katalog; Vertragstiefe folgt in Workplace- und Act-Teilen.
Entscheidungen:
- Welcher Path darf ohne Datenschutzvertrag keine personenbezogenen Daten sehen?; Welche Funde gehen an Workplace-Nutzungsrichtlinie, statt hier ein zweites Inventar zu öffnen?
Wo Governance hängt
Zwischen Strategiefolie und unbekanntem Pfad
„Wir haben AI“ ohne Register beantwortet nicht, welche Pfade Kundendaten berühren.
Zwischen PDF-Verbot und öffentlichem Chat
Die Policy kommt nach dem Paste. Inventar schlägt Slogan.
Zwischen persönlichem API-Key und Tenant-Log
Notebook-Keys umgehen CASB-Erwartungen. Sie brauchen eine Register-Zeile.
Zwischen Zwei-Wochen-POC und Fine-Tune-Endpoint
Customer-CSV im POC ist Produktion ohne Katalog. Zeitdruck ist kein Waiver.
Zwischen BI-Plugin und fehlendem Data-Scope
Embedded Assistenten sind Pfade. Ohne Scope sind sie Shadow in der App.
Zwischen Tool-Admin und verantwortliche Person des Nutzungspfads
Wer SSO setzt, entscheidet nicht Zweck, Datenklasse oder Exit.
Rollen-Mapping
verantwortliche Person des Nutzungspfads (Business / Process)
Fach-Lead ist accountable für Zweck und die Entscheidung, den Path produktiv zu nutzen. Der Owner entscheidet nicht die DPA-Klausel allein.
Privacy / DPO
Bewertet Datenklassen und DSDR-Kontakt. Privacy ersetzt nicht den verantwortliche Person des Nutzungspfads für die Nutzung.
Security / Steward
Führt Register, Katalog, Freeze im Pilot und Wiedervorlage. Stewardship braucht Kapazität, nicht die Restzeit zwischen Leak und Audit.
Platform / Tenant Custodian
Setzt Tenant-Controls und Logging um. Konfigurationsmacht ist keine Path-Verantwortung.
AI Product Owner
Priorisiert welche Pfade candidate werden. Nutzen und Lieferbarkeit — nicht die Risikoklasse (Teil 2).
Audit / Assurance Nutzende
Empfängt Katalog und Top-Shadow-Findings. Sie erfinden keine parallele Tool-Tabelle.
Mini-Fall
Alltagssituation: Eine Quartalsprognose wird in einen öffentlichen Chat kopiert. Die Richtlinie sagt nur „keine personenbezogenen Daten“, aber es gibt kein Inventar der genutzten Inhalte. Niemand kann sicher beantworten, ob Auskunfts- oder Löschrechte betroffener Personen erfüllt werden können. Trotzdem spricht der Vorstand von „KI-Strategie“.
Was schiefläuft: Das Unternehmen verwechselt Tool-Freigabe mit Nutzungsweg. Ein Tool kann technisch erlaubt sein und trotzdem für diese Datenklasse, diesen Zweck oder diesen Verantwortungsbereich falsch sein.
Vereinbarung: Bekannte Tools kommen ins Shadow-Register. Erlaubte Nutzungspfade werden mit Zweck, Datenklasse, verantwortlicher Person und Status benannt. Neue Schattenpfade werden im Pilot eingefroren, das wichtigste Finding wird geschlossen oder bewusst freigegeben, und die Nutzungsrichtlinie verweist auf den Pfadkatalog.
Kritische Übergaben
| Von | An | Artefakt |
|---|---|---|
| Fach-Owner | Security / Steward | Zweck, Datenklassen, Residualrisiko |
| Steward | verantwortliche Person des Nutzungspfads | Katalogzeile und Status |
| Privacy | Steward | DPA-/DSDR-Hinweis je Path |
| Custodian | Steward | Tenant-Log und bekannte Endpoints |
| Mitarbeitende / Discovery | Register | Shadow-Funde (Chat, Key, Plugin, POC) |
| Steward | Act-Ops (Teil 2) | Risikoklasse-Lücken am Path |
Anti-Patterns
- KI verbieten, ohne zu inventarisieren
- Dienstleister-Marke mit freigegebenen KI-Nutzungspfad gleichsetzen
- Persönliche Keys als Developer-Präferenz führen
- POCs mit Live-CSV still laufen lassen
- Path-Katalog leer lassen und Nutzungsrichtlinie trotzdem publishen
- Tenant-Admin als Path-verantwortliche Person führen
- Foundations oder Junk-Serie hier umschreiben
Umsetzung im Alltag
Dieser Einstieg ist ein Arbeitsmuster, keine Kalenderübung und keine Leseliste. Nimm einen echten Fall, an dem sich die Entscheidung prüfen lässt.
Im verlinkten Arbeitsplan hältst du fest, wer die einzelnen Aufgaben übernimmt, bis wann sie erledigt werden und welche Entscheidungen noch offen sind.
- Arbeitsplan — Freigegebene KI betreiben Starte mit dem kleinsten echten Fall, der fachlich wichtig genug ist. Prüfe danach, ob die Entscheidung wirklich auffindbar, umsetzbar und auditierbar ist. Rollenklärung: Wer hilft wem an der Quelle.
Schritt 1: Rahmen und Entscheidung klären
Bekannte AI-Tools einer Domain listen (öffentlich, SaaS, embedded, Notebook, POC). Datenklassen grob markieren. verantwortliche Person des Nutzungspfads und Privacy/Security benennen.
Schritt 2: Control und Nachweis umsetzen
sanctioned-paths-v1 für fünf kritische Pfade veröffentlichen. Top-Shadow-Finding schließen oder waiven. Neue Shadow-Pfade im Pilot frieren.
Schritt 3: Testen und Ausnahmen sichtbar machen
Leadership-Test: welche Pfade dürfen heute Kundendaten berühren? Negativtest: öffentlicher Chat mit Export bleibt shadow. Act-Ops (Teil 2) und Workplace-AUP anschließen.
Schritt 4: Messen und begrenzt ausrollen
Aufwand und Lücken messen. Nur bestandene Muster auf eine zweite BU übertragen.
Exit-Kriterien
- Shadow-Register und Path-Katalog existieren für den Pilot — nicht nur eine Verbots-PDF.
- Jeder freigegebenen KI-Nutzungspfad hat Zweck, Datenklassen, Owner und Logging-Hinweis.
- Öffentlicher Chat mit Exports ist shadow oder befristet gewaived.
- Leadership kann benennen, welche Pfade Kundendaten berühren dürfen.
- technischer Betreiber liefert Endpoint-Nachweis; Path-verantwortliche Person bleibt für die Nutzung accountable.
Weiterlesen
- KI Governance
- GDPR für Analytics- und KI-Teams
- EU-Regulierung: KI Act…
- Datenmüll vor KI
- Mails & Dokumente vor KI
- Workplace KI Governance
Die Übergabe am konkreten Fall prüfen
Vergleiche einen freigegebenen Unternehmenspfad mit einem persönlichen Account für dieselbe synthetische Anfrage. Dokumentiere, welche Daten wohin gelangen dürfen, wer den Pfad verantwortet und wie ein unbekannter Account behandelt wird. Übergib Pfad-ID und offene Abweichungen statt nur einer Tool-Liste.
Wenn die Probe nicht trägt: Ein bekanntes Produkt ist keine Freigabe für jeden Account und Zweck. Ohne Pfadentscheidung wird der neue Weg nicht stillschweigend erlaubt.
| Stand nach der Probe | Passender Anschluss |
|---|---|
| Ergebnis und verbleibende Grenzen sind geprüft und übergabefähig | AI Act als Operating Model |
| Eine Grundlage für die Entscheidung bleibt offen | Zweckbindung: Assistenz ≠ Archiv ≠ Training – offene Frage mit Zuständigkeit zurückgeben. |
Die Prüfung beschreibt einen Beispielfall. Halte bei der eigenen Umsetzung fest, was tatsächlich geprüft wurde und welche Abweichungen noch offen sind.
Sanctioned AI Ops
Part 1 of 8
View series