LLMOps sur SAP BTP — supervision, journalisation et dérive pour les charges de travail AI Core en production
À jour au 2026-09-25
Module LLMOps de niveau expert qui construit la supervision, la journalisation et la détection de dérive en production pour les charges de travail d'IA générative de SAP AI Core à partir de briques documentées plutôt que d'un produit unique : les resource groups (isolation, quota de 50 par tenant, et maille de coût native la plus fine), Inference Observability (en-têtes exacts, limites de 16 labels/64 caractères, exigences de plan étendu et de stockage S3 uniquement, et la mise en garde documentée selon laquelle les charges utiles sont stockées non masquées), le relais des journaux applicatifs vers SAP Cloud Logging, le flux d'audit et de journalisation des événements de sécurité de plateforme (dont les quatre chaînes d'échec d'authentification repérables par grep), l'extension metrics, et un pattern de détection de dérive construit à partir de relances périodiques de l'évaluation M366 et du suivi de version par hash de prompt SHA256. Se termine par un pattern d'observabilité à trois couches éprouvé sur le terrain pour les agents en production et le coût comme signal opérationnel, sourcés depuis la documentation de SAP AI Core et des guides de terrain publiés par des praticiens SAP nommés.
Ce que vous apprendrez
- Expliquer pourquoi l'observabilité de SAP AI Core se compose de briques documentées (resource groups, Inference Observability, journalisation applicative, journaux d'audit, metrics, Evaluations) plutôt que d'un seul produit
- Concevoir un paysage de resource groups pour l'isolation, le suivi des coûts et la sécurité, et énoncer le quota de 50 resource groups par tenant
- Configurer correctement Inference Observability (mode de persistance, labels, secret de stockage objet) et expliquer pourquoi cela doit être associé au masquage de données
- Relayer les journaux applicatifs d'AI Core vers SAP Cloud Logging et lire le flux d'audit et de journalisation pour les événements de plateforme et de sécurité
- Construire un pattern de détection de dérive à partir de relances périodiques d'évaluation, du suivi de version par hash de prompt et des métriques suivies, en l'absence d'alerte de dérive native
- Concevoir une pile d'observabilité à trois couches (trace d'étapes, table d'audit des décisions métier, journalisation d'infrastructure) pour un agent en production, coût compris comme signal opérationnel
Aperçu du module
À qui s'adresse ce module. Vous avez mis en production un cas d'usage d'IA générative sur SAP AI Core — un déploiement d'orchestration, peut-être un agent — et la question vient de changer : de « est-ce que ça marche » à « comment savoir si ça s'arrête de marcher, silencieusement, à 3 heures du matin ». Ce module construit la réponse à partir de ce que SAP AI Core documente réellement (resource groups, Inference Observability, journalisation applicative, journaux d'audit, l'extension metrics) et de patterns éprouvés par des praticiens SAP pour les aspects que SAP ne livre pas comme un produit unique : la détection de dérive et l'observabilité transverse. Il suppose acquis M325, M333 et, idéalement, M366 (le harnais d'évaluation que ce module réutilise pour la dérive).
Prérequis
- M333 (Fondamentaux IA et LLM pour consultants SAP) et M325 (SAP Generative AI Hub en pratique)
- M366 (Évaluer l'IA générative sur des données SAP) fortement recommandé — ce module réutilise son harnais d'évaluation pour la détection de dérive
- Aisance avec le modèle de resource group et de multi-tenance de SAP AI Core, les API REST, et la lecture de journaux JSON
- Une familiarité de base avec un outil d'analyse de journaux (OpenSearch, Kibana ou équivalent) est utile mais non requise
Acquis
- Mettre en place un paysage de resource groups qui sépare dev/recette/production et expliquer son double rôle de frontière de coût et de sécurité.
- Configurer correctement Inference Observability sur un endpoint de production, avec des labels et un mode de persistance adaptés au besoin réel.
- Produire un runbook de détection de dérive qu'une équipe de support production peut exécuter sans le consultant initial.
- Défendre, devant une partie prenante des opérations, pourquoi aucun produit SAP unique ne couvre de bout en bout la supervision LLM, et ce qui en compense l'absence.
Module complet réservé aux abonnés. Le module complet ajoute : le cadre de décision · le cas guidé de bout en bout · la grille de KPI · les anti-patterns · les blocs de code · le contrôle de connaissances · les schémas.