Governance
Governance und Human-in-the-Loop bei KI-Prozessen
Wenn KI Prozesse analysiert, modelliert oder ausführt, brauchen Unternehmen klare Governance: Wer darf was freigeben? Welche Entwürfe gelten? Wie werden Agent-Entscheidungen nachvollzogen?
Human-in-the-Loop (HITL)
KI-Ergebnisse sind Entwürfe bis zur Freigabe: Maßnahmen, Soll-Prozesse, Agent-Aktionen. HITL ist keine Bremse, sondern Qualitätssicherung – besonders in regulierten Prozessen (Finanz, Gesundheit, Personal).
Framed autonomy
Agenten erhalten explizite Frames: erlaubte Aktionen, Datenquellen, Eskalationspfade. Forschung zu Agentic BPM (2026) betont Framing als Brücke zwischen Autonomie und organisatorischer Kontrolle.
DSGVO und Nachvollziehbarkeit
Dokumentierte Prozessmodelle, Versionierung von Ist/Soll und protokollierte Freigaben unterstützen Art.-5/24-DSGVO-Anforderungen. KI-Anbieter sollten keine Kundendaten zum Modelltraining nutzen – Vertrag und Konfiguration prüfen.
FAQ
- Wer sollte Prozessänderungen freigeben?
- Typisch: Prozessowner Fachbereich plus IT/Compliance bei System- oder Agent-Integration. Vier-Augen-Prinzip bei kritischen Prozessen.
Verwandte Artikel
Stand: 2026-06-29