Points de contrôle humain-dans-la-boucle pour les flux autonomes

De quoi il s'agit

Un point de contrôle avec humain dans la boucle (HITL) est un endroit où l'agent s'arrête, montre à une personne ce qu'il compte faire ou a préparé, et ne poursuit que sur sa décision. Dans la pile d'agents SAP, ce n'est plus un principe abstrait : plusieurs mécanismes sont documentés et les agents de SAP eux-mêmes s'en servent. Cette fiche les recense, puis donne les règles de conception pour choisir et calibrer les points de contrôle.

Pourquoi c'est important

• SAP fournit des contrôles HITL concrets (confirmation sur outil skill, human_approval_required, pauses des agents standard, portes de déploiement et de vérification) ; concevoir sans eux gaspille ce que la plateforme offre déjà.
• L'emplacement des points de contrôle détermine à la fois le risque et la valeur : trop peu, et les erreurs atteignent la comptabilité ; trop, et l'agent n'apporte aucune autonomie.
• Pour les usages RH et crédit, les exigences de surveillance de l'article 14 font de la conception des points de contrôle un artefact de conformité auditable.

Points clés

• Agent builder : « Require user confirmation before running » sur les outils skill, avec un prompt pour le message d'approbation ; réponses rapides Yes, proceed / No, cancel.
• Agents fondés sur le contenu : human_approval_required et human_approval_prompt par outil.
• Agents standard : l'agent de planification de production s'arrête avec réponses rapides ou alternatives ; les propositions de l'agent de régularisations sont revues avant comptabilisation.
• Portes du cycle de vie : approbation GitHub Actions pour la production (nouveau Joule Studio) ; vérification avant publication dans SAP AI Agent Hub.
• Adapter le point de contrôle à la réversibilité et au volume ; le routage par seuil de confiance et les règles de dérive sont des schémas à implémenter, pas des réglages Joule.
• Trois points de contrôle distincts, pas une seule fonctionnalité : approbation par outil (dans un tour), pause de l'agent pour information manquante (en cours de plan), et portes de cycle de vie/version (hors de toute conversation) — vérifier les trois, pas seulement l'un.
• SAP documente qu'un agent traite la notification de l'utilisateur comme l'action finale de son tour ; concevoir les étapes d'approbation comme une fin de tour suivie d'une reprise, plutôt que de demander « informer puis continuer ».
• L'article 14 de l'AI Act exige que le prompt d'approbation lui-même permette à un relecteur de comprendre, interpréter, annuler ou arrêter le système — un « Continuer ? Oui/Non » sans contenu satisfait le mécanisme mais pas le fond de la surveillance.

Termes employés sur cette page

Point de contrôle humain

Endroit où un agent s'arrête et ne reprend qu'après qu'une personne a approuvé, rejeté ou complété sa proposition.

human_approval_required

Propriété d'outil des définitions d'agents Joule fondés sur le contenu qui impose une approbation de l'utilisateur avant l'exécution de l'outil.

Fatigue d'approbation

Dégradation de la qualité de revue lorsque les approbateurs voient surtout des cas de routine et approuvent par réflexe.

Article 14 (AI Act)

Obligation de surveillance humaine des systèmes d'IA à haut risque : comprendre, interpréter, annuler ou arrêter le système.

Porte de cycle de vie

Point de contrôle sur la version d'un agent plutôt que sur une exécution unique — par exemple une approbation GitHub Actions pour le déploiement en production ou une vérification SAP AI Agent Hub avant publication.

Routage par seuil de confiance

Schéma qui envoie les sorties à faible confiance d'un agent vers un relecteur humain tout en laissant les sorties à forte confiance se poursuivre automatiquement ; implémenté dans la logique des outils ou un workflow, pas un réglage Joule standard.

Fin de tour

La fin d'un tour conversationnel de l'agent ; SAP documente que la notification de l'utilisateur est traitée comme l'action finale de l'agent, donc les étapes d'approbation doivent être conçues pour clore un tour plutôt que de s'y poursuivre.

Biais d'automatisation

La tendance d'un relecteur humain à faire trop confiance à une proposition générée par l'IA, nommée explicitement par l'article 14 comme un risque que la conception des points de contrôle doit contrer.

Sources

1. SAP Help — Add a Tool (calculator, documents, Joule skill, Joule agent / subagents)
2. SAP Help — Content-Based Agents
3. SAP Help — Governance and Safety Controls (classic edition best practices)
4. SAP Help — Production Planning and Operations Agent
5. SAP Help — Accounting Accruals Agent (prerequisites, scope item J58) — cited for: Human-in-the-Loop Checkpoints for Autonomous Workflows
6. SAPinsider — SAP Releases Accounting Accruals Agent for Month-End Close (17 Sep 2026) — cited for: Human-in-the-Loop Checkpoints for Autonomous Workflows
7. SAP Help — Joule Agents Overview in SAP SuccessFactors (assistants, permissions, commercial model)
8. SAP Help — Joule Studio: Deployment (managed runtime, GitHub approval gate)
9. SAP Help — Secure and Govern (verification, AI Agent Portal)
10. SAP Help — Observe and Analyze (telemetry, business value, AI risk)
11. SAPinsider — n8n Is Coming to SAP Joule Studio for Agent Workflow Orchestration (19 Aug 2026)
12. SAPinsider — SAP's Autonomous HCM Explained (Sep 2026)
13. EU AI Act — Article 14: Human Oversight (consolidated text, artificialintelligenceact.eu)
14. SAP News — SAP and NVIDIA OpenShell: security for auditable AI agents (Joule Studio runtime, free through October 2026, FedRAMP/FIPS roadmap)
15. Forrester — Oktane 2026 recap: unified IAM control plane, agent governance and identity details unclear
16. SiliconANGLE — NetApp hands storage operations to AI agents, but humans still draw the boundaries (RACI extended to machines, audit trails)