Konzeptkarte

Human-in-the-Loop-Checkpoints für autonome Workflows

Stand 6. Oktober 2026

Redaktion: Cédric Mary, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Human-in-the-Loop-Checkpoints für autonome Workflows?

Human-in-the-Loop ist in SAP-Agenten konkret: Skill-Tools können eine Benutzerbestätigung verlangen (Yes, proceed / No, cancel), Tools inhaltsbasierter Agenten tragen human_approval_required, Standardagenten pausieren für Entscheidungen oder liefern Vorschläge zur Prüfung, und Deployments passieren ein menschliches Freigabetor. Wählen Sie den Prüfpunkt nach Umkehrbarkeit und Volumen und gestalten Sie ihn so, dass er Artikel 14 des AI Act erfüllt, wo dieser gilt.

Worum es geht

Ein Human-in-the-Loop-Prüfpunkt (HITL) ist eine Stelle, an der ein Agent anhält, einem Menschen zeigt, was er tun will oder vorbereitet hat, und erst nach dessen Entscheidung weitermacht. Im Agenten-Stack von SAP ist das kein abstraktes Prinzip mehr: Mehrere Mechanismen sind dokumentiert, und SAPs eigene Agenten nutzen sie. Diese Karte listet sie auf und gibt dann Designregeln für Auswahl und Kalibrierung von Prüfpunkten.

Warum es zählt

SAP bietet konkrete HITL-Kontrollen (Bestätigung am Skill-Tool, human_approval_required, Pausen in Standardagenten, Deployment- und Verifizierungstore); wer ohne sie entwirft, verschenkt, was die Plattform schon bietet.
Die Platzierung von Prüfpunkten bestimmt Risiko und Nutzen zugleich: zu wenige, und Fehler erreichen das Hauptbuch; zu viele, und der Agent liefert keine Autonomie.
Bei HR- und Kreditanwendungen machen die Aufsichtspflichten nach Artikel 14 das Prüfpunktdesign zu einem prüfbaren Compliance-Artefakt.

Kernpunkte

Agent Builder: „Require user confirmation before running“ an Skill-Tools, mit Prompt für die Freigabenachricht; Schnellantworten Yes, proceed / No, cancel.
Inhaltsbasierte Agenten: human_approval_required und human_approval_prompt je Tool.
Standardagenten: Der Produktionsplanungsagent pausiert mit Schnellantworten oder Alternativen; Vorschläge des Abgrenzungsagenten werden vor der Buchung geprüft.
Lebenszyklus-Tore: GitHub-Actions-Freigabe für die Produktion (neues Joule Studio); Verifizierung vor der Veröffentlichung im SAP AI Agent Hub.
Prüfpunkt nach Umkehrbarkeit und Volumen wählen; Routing per Konfidenzschwelle und Drift-Regeln sind selbst umzusetzende Muster, keine Joule-Einstellungen.
Drei getrennte Kontrollpunkte, keine einzelne Funktion: Freigabe je Tool (innerhalb eines Zugs), agenteninitiierte Pause bei fehlender Eingabe (mitten im Plan) und Lebenszyklus-/Versionstore (außerhalb jedes Dialogs) — alle drei prüfen, nicht nur eines.
SAP dokumentiert, dass ein Agent die Benachrichtigung des Nutzers als letzte Aktion seines Zugs behandelt; Freigabeschritte als Zugende mit anschließender Wiederaufnahme gestalten, statt „informieren und fortfahren“ anzuweisen.
Artikel 14 des EU AI Act verlangt, dass der Freigabe-Prompt selbst einem Prüfer erlaubt, das System zu verstehen, zu interpretieren, zu übersteuern oder anzuhalten — ein inhaltsleeres „Fortfahren? Ja/Nein“ erfüllt den Mechanismus, nicht die Substanz der Aufsicht.

Begriffe auf dieser Seite

Human-in-the-Loop-Prüfpunkt: Stelle, an der ein Agent anhält und erst weitermacht, wenn ein Mensch seinen Vorschlag freigibt, ablehnt oder ergänzt.
human_approval_required: Tool-Eigenschaft in Definitionen inhaltsbasierter Joule-Agenten, die vor Ausführung des Tools eine Freigabe durch den Anwender erzwingt.
Freigabemüdigkeit: Nachlassende Prüfqualität, wenn Genehmiger überwiegend Routinefälle sehen und reflexhaft freigeben.
Artikel 14 (EU AI Act): Pflicht zur menschlichen Aufsicht über Hochrisiko-KI-Systeme: verstehen, interpretieren, übersteuern oder anhalten.
Lebenszyklustor: Ein Prüfpunkt auf der Version eines Agenten statt auf einem einzelnen Lauf — etwa eine GitHub-Actions-Freigabe für das Produktivdeployment oder eine Verifizierung im SAP AI Agent Hub vor der Veröffentlichung.
Routing per Konfidenzschwelle: Muster, das Ausgaben eines Agenten mit geringer Konfidenz an einen menschlichen Prüfer sendet, während solche mit hoher Konfidenz automatisch weiterlaufen; in eigener Tool-Logik oder einem Workflow umgesetzt, keine Standard-Joule-Einstellung.
Zugende: Das Ende eines dialogischen Zugs des Agenten; SAP dokumentiert, dass die Benachrichtigung des Nutzers als letzte Aktion des Agenten behandelt wird, weshalb Freigabeschritte so gestaltet werden sollten, dass sie einen Zug beenden, statt in ihm fortzufahren.
Automatisierungsbias: Die Tendenz eines menschlichen Prüfers, einem KI-generierten Vorschlag zu sehr zu vertrauen, in Artikel 14 ausdrücklich als Risiko benannt, dem das Design von Prüfpunkten entgegenwirken muss.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →

Offene SAP-Projekte

Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.