Zum Inhalt springen
Search the hub
AI Act als Operating Model

AI Act als Operating Model

EU-AI-Act-Pflichten in Risikoklassen, Rollen, Dokumentations-Cadence und Evidence übersetzen — Betriebsbrücke vom Regulierungsüberblick zu Tageskontrollen.

Category
Data Governance
Reading time
6 min
Published
Tags
data-governance ai-governance ai-act compliance risk stewardship evidence
Download PDF

Was aus dem vorherigen Schritt ankommt

Der Nutzungspfad hat einen Zweck und eine verantwortliche Person. Interne Arbeitsklasse und rechtliche Einordnung werden nachvollziehbar getrennt dokumentiert.

Ausgangspunkt: Shadow AI vs. freigegebene Pfade.

Ausgangslage

Programme stecken zwischen Extremen fest:

  • Legal liest den Act; Delivery shippt Chatbots ohne Klasse auf der Path Card;
  • „high-risk“ wird monatelang debattiert, während Shadow-Tools weiterlaufen;
  • Dokumentation existiert als One-off-PDFs, nicht als lebende Artefakte am Pfad;
  • Rollen verschwimmen: wer besitzt Risikoklasse vs. Model Change vs. Data Purpose?;
  • Auditoren fragen Nachweispakets; Teams liefern Screenshots.

Regulatorischer Überblick bleibt in EU-Regulierung: AI Act, Data Act, NIS2 und DORA und AI Governance. Hier geht es um wie die Organisation läuft, nachdem Teil 1 den Katalog hat.

So sieht der Bruch aus (Ist-Zustand):

Beispiel mit erfundenen Daten. Für die Anwendung im Unternehmen brauchst du passende Daten aus den eigenen Systemen und Prozessen.

Pfad:      „Customer Support Assistant“ — sanctioned
Klasse:    leer
Owner:     „AI-Team“
Nachweise:  Kickoff-Deck aus Q1
Incident:  falscher Rat an Kunden — kein Post-Market-Log
Legal:     „wir beobachten den Act“

Beobachten ohne Klasse und Cadence ist keine Compliance.

AI Act als Operating Model: Risikoklasse, Pflichten, Betriebs-Controls und Evidenz verbinden Regulierung mit Alltag.

Begriffe vor dem Lesen

  • Data Owner — Fachlich verantwortliche Rolle für Zweck, Bedeutung, Risikoakzeptanz und Freigabe.

  • Data Steward — Rolle, die Definitionen, Prüfungen, Konflikte und Nachweise im Alltag pflegt.

  • Data Custodian — Technische Rolle, die Zugriffe, Laufzeit, Sperren und Protokollierung umsetzt.

  • Freigegebener KI-Nutzungspfad — Eine konkrete Kombination aus Zweck, Werkzeug, Datenklassen, verantwortlichen Rollen und technischen Kontrollen.

  • RAG (Retrieval-Augmented Generation) — Das System sucht vor einer Antwort freigegebene Quellen und stellt sie dem Sprachmodell als Kontext bereit.

  • HITL (Human in the Loop) — Eine benannte Person prüft oder genehmigt eine Aktion, bevor sie wirksam wird.

  • Waiver / befristete Ausnahme — Zeitlich begrenzte Abweichung mit Grund, Risiko, kompensierender Maßnahme und Ablaufdatum.

  • Model Card / Dataset Card — Versionierte Beschreibung von Modell beziehungsweise Datensatz, zulässiger Nutzung, Herkunft, Tests und Grenzen.

  • Corpus — Die kontrollierte Sammlung von Dokumenten oder Daten, aus der ein KI-System sucht oder lernt.

Entscheidung

Binden Sie jeden freigegebenen KI-Nutzungspfad an eine AI-Risikoklasse, benannte Rollen und eine Prüfrhythmus für Nachweise.

Quellenstand: 23.10.2026. Interne Arbeitsklassen sind von gesetzlichen Kategorien zu trennen. Für Verbote, konkrete Pflichten und ihren Anwendungszeitpunkt die aktuelle EU-Kommissionsübersicht zum AI Act und den geltenden Rechtstext heranziehen. Ein internes Label, eine Sandbox oder ein Waiver hebt gesetzliche Voraussetzungen nicht auf.

Risikoklasse am Pfad (Minimum)

Interne Arbeitsklasse je Pfad vergeben. Das rechtliche Mapping zu Systemrolle, Zweck, Betroffenen, einschlägigen Verboten und Pflichten wird mit Legal vor der betroffenen Freigabe geklärt, nicht erst nach Go-live. Die folgende Tabelle ist eine Triagehilfe, keine abschließende AI-Act-Klassifizierung:

Arbeitsklasse Typische Signale Betriebsfolge
minimal begrenzte interne Assistenz ohne festgestellten erhöhten Impact risikobasierte Evidenz; Datenschutz, Vertraulichkeit und weitere Pflichten trotzdem prüfen
limited kundenfacing Info, Transparenzpflichten AI-Nutzung offenlegen; Eval + Beschwerdeweg
high erhöhte Entscheidungswirkung, etwa bei Kredit, HR oder Sicherheit rechtlichen Anwendungsfall konkret prüfen; passende menschliche Aufsicht, Evaluation und Change Control vorsehen
prohibited_candidate Anzeichen einer möglicherweise verbotenen Praxis, etwa bestimmte biometrische oder Social-Scoring-Anwendungen bis zur Klärung stoppen; nicht jede biometrische Kategorisierung pauschal gleichsetzen

Regeln:

  1. Keine Klasse, kein Go-Live für neue freigegebene KI-Nutzungspfade (Sandbox darf candidate mit Ablauf).
  2. Klasse hat Owner — Product Owner schlägt vor; Risk/Compliance bestätigt; Steward hält Register aktuell.
  3. Wechsel von Modell, Datenzweck oder Tools löst Re-Class-Review aus.
  4. Ehrliche Sprache: dieses Operating Model unterstützt Act-Readiness; es ist keine Rechtsberatung — Legal besitzt die Auslegung.

Rollen (RACI lite)

Entscheidung Accountable Responsible Consulted
Path sanctionieren AI Product Owner Steward Security, Privacy
Risikoklasse Risk/Compliance Product Owner Legal
Dataset/Model-Card-Gate Steward Platform Eval Lead
Post-Market / Incident-Log Product Owner Ops Privacy
Waiver (Teil 7) Risk Owner Requester Compliance

Prüfrhythmus für Nachweise

Mindestens lebende Artefakte (Link Teile 3–8):

  • Path Card + Risikoklasse (dieser Teil);
  • Model- und Dataset-Cards (Teil 3);
  • Eval-Release-Prüfpunkt-Results (Teil 6);
  • menschliche Freigabe / Tool-Freigabeliste wo Agenten handeln (Teil 7);
  • Cost/Capacity und Shadow-Findings auf der Betriebsübersicht (Teil 8);
  • Post-Market: Incident-Log, Beschwerdekanal, Neubewertung nach materialem Change.

Cadence-Beispiel: monatliches Register-Review für limited/high; quartalsweise für minimal; sofort bei materialem Change.

Checkliste

Operationalisieren Sie Act-Readiness für die Pilot-Pfade:

  • Risikoklasse-Feld in sanctioned-paths-v1 ergänzen;
  • Klasse + Begründung für jeden Pfad mit Kunden- oder Entscheidungswirkung füllen;
  • Accountable-Rollen laut Tabelle benennen;
  • Nachweis-Cadence und Ablageort setzen (ticket-zentriert, zugriffsbeschränkt);
  • Legal-Fragen zur EU-Regulations-Story routen — keine Annex-Auslegung hier erfinden;
  • Produktivstart blocken, wenn Klasse oder verantwortlichen Person leer;
  • den ersten Umsetzungsschnitt abschließen, wenn ein Pilotpfad die erforderliche Einstufung, Rollen und datierte Evidenz hat; das ist keine Freigabe anderer Pfade und kein vollständiger Compliance-Nachweis.

Artefakt

AI Risk Class Register + Prüfrhythmus für Nachweise Sheet:

  • Pfad-ID, Arbeitsklasse, Act-Mapping-Note (Legal-owned);
  • Zweck, Grundgesamtheit, Entscheidungswirkung;
  • accountable / responsible / consulted;
  • Pflichtartefakt-Liste und last/next Due Dates;
  • Material-Change-Trigger;
  • Link zu Cards, Eval Packs, Incident-Log.

Tools

Risk- und Compliance-Register für Klasse. Katalog für Path-Felder. Model-Registry-Hooks (Teil 3). Lernpfad Compliance Essentials falls vorhanden.

Ressourcen

EU-Regulierung: AI Act…, AI Governance, GDPR für Analytics- und AI-Teams, Teil 1 dieser Serie, AI Eval.

Tools und Quellen

Die Übergabe am konkreten Fall prüfen

Spiele einen Zweckwechsel an einem synthetischen Pfad durch: vom Zusammenfassen interner Texte zu einer entscheidungsrelevanten Empfehlung. Der Owner beschreibt die neue Wirkung; die zuständigen Prüfrollen klären den Bewertungsbedarf. Übergib Änderungs-ID, offene Fragen und den datierten Prüfauftrag an die Kartenpflege.

Wenn die Probe nicht trägt: Ein internes Risikolabel beantwortet die rechtliche Frage nicht. Eine offene Einordnung bleibt sichtbar und darf nicht durch eine technische Freigabe verdeckt werden.

Stand nach der Probe Passender Anschluss
Ergebnis und verbleibende Grenzen sind geprüft und übergabefähig Model- und Dataset-Cards die betrieben werden
Eine Grundlage für die Entscheidung bleibt offen Shadow AI vs. freigegebene Pfade – offene Frage mit Zuständigkeit zurückgeben.

Die Prüfung beschreibt einen Beispielfall. Halte bei der eigenen Umsetzung fest, was tatsächlich geprüft wurde und welche Abweichungen noch offen sind.

Sanctioned AI Ops

Part 2 of 8

View series

Knowledge check

Tour