Konzeptkarte

Human-in-the-Loop-Checkpoints für autonome Workflows

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Human-in-the-Loop-Checkpoints für autonome Workflows?

Der Checkpoint-Typ muss sich nach der Reversibilität der Aktion richten — eine Freigabe vor der Ausführung für irreversible Aktionen, ein Konfidenzschwellenwert für hochvolumige, reversible Klassifizierungen, nicht ein einziges HITL-Muster für alle Fälle.

Was es ist

Human-in-the-Loop-Checkpoints (HITL) sind bewusst eingebaute Haltepunkte in einem ansonsten autonomen KI-Workflow, an denen die Ausführung stoppt, ein menschlicher Prüfer die vom Agenten vorgeschlagene Aktion oder Ausgabe begutachtet, und der Workflow erst fortgesetzt wird, sobald diese Person ausdrücklich zustimmt. In den agentenbasierten Kontexten von SAP – Joule-Workflows auf BTP, Multi-Agent-Beschaffungspipelines, von Datasphere gespeiste Prognoseagenten – sind diese Checkpoints kein nachträglich aufgesetztes nettes Extra. Sie sind der Mechanismus, mit dem eine Organisation die Anforderung an die menschliche Aufsicht des EU AI Act für Hochrisiko-KI-Systeme erfüllt, und das Artefakt, das eine interne Revisions- oder Kontrollfunktion als Erstes sehen will.

Warum es wichtig ist

Ein vollständig autonomer Agent, der direkt auf ERP-Daten arbeitet, kann einen Fehler in Maschinengeschwindigkeit fortpflanzen, lange bevor ein Mensch überhaupt bemerkt, dass etwas nicht stimmt. Ein Beschaffungsagent, der die Risikobewertung eines Lieferanten falsch einschätzt, kann eine Bestellung an eine sanktionierte Entität auslösen, bevor jemand die Entscheidung prüft. Ein Prognoseagent, der einen Sicherheitsbestand falsch berechnet, kann einen echten Materialengpass auslösen. In keinem der beiden Fälle liegt das zugrunde liegende Problem in der Fehlerquote des Modells – jedes Modell irrt mit einer gewissen bekannten Häufigkeit. Das Problem ist das Fehlen eines Tors, das den Fehler abgefangen hätte, bevor er zu einer irreversiblen Systemaktion wurde.

Wie es funktioniert

Vier Checkpoint-Typen bilden vier unterschiedliche Governance-Bedürfnisse ab, und den richtigen für die richtige Situation zu wählen ist die eigentliche Fertigkeit.

Warum es zählt

Eine falsch klassifizierte Lieferantenrisikobewertung kann eine Bestellung an eine sanktionierte Entität auslösen, bevor ein Mensch die Entscheidung sieht — der Schaden liegt am fehlenden Tor, nicht an der bekannten Fehlerquote des Modells
Der Konfidenzschwellenwert-Checkpoint (z. B. 0,92) lässt hochvolumige, reversible Aufgaben wie die Rechnungskodierung autonom laufen und fängt dabei weiterhin Fälle mit geringer Konfidenz ab
Drift-Erkennungs-Checkpoints (p-Wert < 0,01 auf einem gleitenden 7-Tage-Fenster) erfassen Qualitätsverfall, den ein einzelner Konfidenzwert übersehen würde

Kernpunkte

HITL-Checkpoints sind bewusst eingebaute Haltepunkte in autonomen Workflows, an denen eine menschliche Freigabe erforderlich ist, bevor die Ausführung fortgesetzt wird — nicht optional bei Hochrisiko-KI-Einsätzen nach Art. 14 EU AI Act.
Vier Checkpoint-Typen: Freigabe vor der Ausführung (irreversible Aktionen), Konfidenzschwellenwert (hochvolumig, reversibel), Drift-Erkennung (kontinuierlich laufende Modelle), periodisches Audit (periodische Stichprobe unabhängig von automatisierten Signalen).
Joule Studio unterstützt einen nativen await_approval-Schritt: unterbricht den Workflow, sendet eine strukturierte Benachrichtigung, erfasst die XSUAA-verifizierte Entscheidung und den Zeitstempel des Genehmigers und schreibt in ein unveränderliches Audit-Protokoll.
Art. 14 EU AI Act (wirksam ab 2026-08-02 für Systeme nach Anhang III): menschliche Aufsicht muss von Anfang an eingeplant, nicht nachträglich angeflanscht werden — HITL-Checkpoints sind die konkrete Umsetzung der Anforderung 'Fähigkeit, sich gegen die Nutzung des KI-Systems zu entscheiden'.
Anti-Muster — Abnickrisiko: HITL bei jeder Aktion erzeugt Prüfermüdigkeit; eine proportionale Häufigkeit (Freigabe vor der Ausführung nur für irreversible Aktionen) verhindert, dass Genehmigungen zur Formalität werden.
Integrität des Audit-Protokolls: Genehmigungsdatensätze müssen einmalig geschrieben werden (write-once); eine nachträgliche Änderung der Entscheidung oder des Zeitstempels des Genehmigers ist ein Konformitätsverstoß gegen den AI Act.
Zeitlich begrenzte SLAs an Checkpoints verhindern eine Blockade des Workflows: maximale Wartezeit festlegen (z. B. 4 Geschäftsstunden), bei Ablauf automatisch eskalieren oder automatisch ablehnen.
Human-in-the-Loop-Checkpoints für autonome Workflows sind erst dann beherrscht, wenn sie eine konkret benannte Entscheidung des Auftraggebers verändern.
Zuerst das semantische Vertrags- und Kontrollmodell klären, bevor das Tool demonstriert wird.
Aktuelle SAP-, Analysten-, Studien-, KG- und News-Signale als Beleg nutzen, nicht als Dekoration.

Begriffe auf dieser Seite

HITL (Human-in-the-Loop): Architekturmuster, bei dem an definierten Checkpoints eines autonomen Workflows eine menschliche Freigabe erforderlich ist, bevor die Ausführung einer potenziell irreversiblen oder risikoreichen Aktion fortgesetzt wird.
await_approval: Joule-Studio-Workflow-Schritt, der die Ausführung unterbricht, eine strukturierte Genehmigungsanfrage an einen benannten Prüfer weiterleitet und die XSUAA-verifizierte Entscheidung erfasst, bevor er fortgesetzt wird.
Confidence-Threshold Checkpoint: Checkpoint, der ausgelöst wird, wenn der interne Konfidenzwert eines Agenten unter einen definierten Schwellenwert fällt — leitet Entscheidungen mit geringer Konfidenz an die menschliche Prüfung weiter, während Entscheidungen mit hoher Konfidenz autonom fortgesetzt werden.
Drift-Detection Checkpoint: Checkpoint, der durch statistische Drift in der Ausgabeverteilung eines Agenten gegenüber einer Baseline ausgelöst wird — erfasst still verfallende, kontinuierlich laufende Agenten (Prognose-, Bewertungsmodelle).
Art. 14 EU AI Act: Anforderung an die menschliche Aufsicht im EU AI Act: Hochrisiko-KI-Systeme müssen so gestaltet sein, dass natürliche Personen ihren Betrieb wirksam beaufsichtigen und bei Bedarf eingreifen können. Wirksam ab 2026-08-02.
Abnickrisiko: Das Fehlermuster, bei dem zu häufige HITL-Checkpoints Prüfermüdigkeit erzeugen und zu Genehmigungen führen, die formal, aber nicht inhaltlich sind — was den Governance-Zweck von HITL untergräbt.
Decision owner: Die verantwortliche Person, die den Kompromiss akzeptiert und die nächste Maßnahme finanziert.
Semantic contract: Die gemeinsame Definition von Geschäftsbegriffen, Kennzahlen, Entitäten und Zugriffsregeln, die von Tools und Teams verwendet wird.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →