Garde-fous Joule

Joule Guardrails est la couche de gouvernance qui se place entre chaque agent Joule et le modèle qui l'alimente. Ce n'est pas un module optionnel qu'un client active à sa guise — c'est l'enveloppe d'exécution par défaut autour de chaque invocation de Joule Skill, de chaque appel au Model Gateway, et de chaque workflow construit dans Joule Studio. Comprendre Guardrails compte parce que, dans un environnement SAP, c'est l'artefact le plus concret que l'on puisse montrer lorsqu'un client demande : « comment sait-on que l'agent IA ne fera pas n'importe quoi, et comment le prouve-t-on à un régulateur ? »

Le dispositif repose sur trois couches qui fonctionnent ensemble.

Couche 1 : le filtrage de contenu

Pourquoi c'est important

• Les classificateurs d'entrée interceptent les tentatives d'injection de prompt et de jailbreak avant même que le contexte d'ancrage n'atteigne l'appel LLM
• Un approbateur humain voit l'action recommandée par l'agent, les preuves Knowledge Graph à l'appui et le score de confiance — et peut approuver, rejeter ou déléguer
• Chaque interaction HITL est journalisée dans un journal d'audit résistant à l'altération, générant la preuve de supervision automatiquement plutôt qu'a posteriori

Points clés

• Framework à trois couches : filtrage de contenu (classificateurs entrée + sortie) → moteur d'escalade HITL → Journal d'Audit (journal inviolable par inférence).
• Wrapper d'exécution par défaut — pas optionnel ; appliqué à chaque Joule Skill, appel Model Gateway et exécution de workflow Joule Studio.
• Mise en correspondance loi IA UE : Art. 9 (gestion des risques) + Art. 13 (transparence) + Art. 14 (surveillance humaine) — les trois satisfaits par les trois couches de garde-fous.
• À partir du 2026-08-02 : agents Joule à haut risque selon l'Annexe III sans garde-fous actifs = violation réglementaire ; pénalité jusqu'à 3 % du CA mondial / 15 M€.
• Défense contre l'injection de prompts : les classificateurs d'entrée bloquent les tentatives d'injection de prompts adversariales avant qu'elles n'atteignent la Model Gateway.
• Mode de défaillance HITL : la dotation en personnel de la file d'attente d'escalade est un livrable de gestion du changement métier, pas technique — les files sans personnel sont le mode de défaillance de production le plus courant.
• Rétention du Journal d'Audit : minimum 10 ans pour les preuves des systèmes à haut risque selon l'Art. 9(7) loi IA UE.

Termes employés sur cette page

Filtrage de contenu

Classification automatisée des entrées et sorties IA par rapport à une liste de politiques (contenu nuisible, données personnelles, injection de prompts, schémas de jailbreak) — appliquée avant et après l'appel LLM de la Model Gateway par le framework Garde-fous Joule.

Injection de prompts

Une attaque adversariale où un attaquant intègre des instructions dans du contenu soumis par l'utilisateur (une candidature, un formulaire fournisseur, une plainte client) conçues pour remplacer le prompt système de l'agent et lui faire entreprendre des actions non intentionnelles.

Moteur d'escalade HITL

Le composant Garde-fous Joule qui détecte les conditions HITL définies dans le workflow Joule Studio, met en pause l'exécution de l'agent, route l'action en attente vers une file d'attente d'approbateur humain et enregistre la décision humaine dans le Journal d'Audit.

SAP Audit Journal

Service de journalisation inviolable sur SAP BTP qui enregistre chaque événement d'invocation d'agent Joule — entrée, référence Prompt Registry, modèle utilisé, verdicts du filtre de contenu, événements HITL et action entreprise ; interrogeable pour les preuves de conformité loi IA UE.

Loi IA UE Art. 14 (surveillance humaine)

Obligation pour les déployeurs de systèmes IA à haut risque de mettre en œuvre des mécanismes de surveillance efficaces permettant aux humains de détecter, prévenir ou intervenir dans des situations où le système se comporte contrairement à son but prévu — le moteur d'escalade HITL est la principale mise en œuvre SAP de cette obligation.

Sources

1. SAP Business AI — guardrails and responsible AI documentation
2. EU AI Act Article 9 — risk management system
3. EU AI Act Article 13 — transparency and provision of information
4. EU AI Act Article 14 — human oversight
5. EU AI Act Article 99 — penalties
6. Gartner — 40% agentic project cancellation, risk-control failure
7. SAP Sapphire Orlando 2026 — Joule and AI governance announcements
8. artificialintelligenceact.eu — full AI Act text
9. SAP Business AI — official page
10. Joule with SAP Datasphere — SAP
11. SAP Datasphere — Help Portal
12. SAP Datasphere — official product page
13. SAP Analytics Cloud — Help Portal
14. SAP Analytics Cloud — official product page
15. SAP BW/4HANA — Help Portal
16. SAP S/4HANA — Help Portal
17. SAP News Center
18. SAP Community
19. SAP — industries overview
20. SAP Joule (work companion) — official product page
21. SAP Generative AI — official product page
22. Stanford HAI — AI Index Report
23. Meta AI — Llama model research
24. arXiv — preprint archive (cs.CL/cs.AI)
25. HuggingFace — model hub
26. Gartner — research & analyst site
27. BARC — BI & Analytics research
28. TDWI — data & analytics research
29. DSAG — German-speaking SAP user group
30. ASUG — Americas' SAP User Group
31. Databricks — official site