Sécurité pour l'IA SAP — injection de prompt, exfiltration de données et habilitations
À jour au 2026-09-25
Module de sécurité de niveau expert pour les solutions d'IA générative et agentique SAP, construit sur les modules documentés de filtrage de contenu et de masquage de données du service d'orchestration et sur l'architecture d'habilitation sous-jacente à toute charge de travail SAP AI Core. Couvre le comportement précis et documenté d'Azure Content Safety (classification des nuisances avec niveaux de sévérité, détection d'attaque par prompt PromptShield et son exclusion des messages system/developer, détection de matériel protégé) et de Llama Guard 3 ; la distinction entre anonymisation et pseudonymisation avec le catalogue d'entités propre à SAP, incluant les catégories spécifiques d'identifiants utilisateur SAP internes et publics qu'un produit de masquage générique manquerait ; les risques d'exfiltration de données documentés et les contrôles pour les agents (liste blanche d'outils MCP, SAP API Management, liste d'outils autorisés, engagements contractuels de non-rétention) ; un modèle d'habilitation à quatre couches (isolation resource group/XSUAA, propagation du principal, jetons OAuth cadrés, portes d'approbation humaine) ; les événements de sécurité du journal d'audit de SAP AI Core et ses quatre messages d'échec d'authentification repérables par grep ; et la mise en garde de sécurité propre à Inference Observability, que ce module traite comme une exigence de conception plutôt qu'une réflexion après coup. Se termine par une répartition de gouvernance — ce que la plateforme SAP exploite contre ce que l'implémenteur configure — défendable en revue de risque de mise en production.
Ce que vous apprendrez
- Énoncer la définition documentée par SAP d'une attaque par prompt et configurer correctement le module de filtrage de contenu du service d'orchestration (classification des nuisances Azure Content Safety, PromptShield, Llama Guard 3), y compris l'exclusion des messages system/developer et la facturation multi-filtres
- Distinguer anonymisation et pseudonymisation, et choisir les bonnes catégories d'entités SAP Data Privacy Integration pour un cas d'usage sur données SAP, y compris les identifiants spécifiques SAP
- Expliquer les risques d'exfiltration de données documentés pour les agents IA (mésusage d'outil, empoisonnement de connaissance) et les contrôles SAP correspondants (liste blanche MCP, API Management, liste d'outils autorisés, engagements de non-rétention)
- Concevoir un modèle d'habilitation à quatre couches pour un agent IA SAP : isolation par resource group, propagation du principal, jetons OAuth cadrés, et portes d'approbation humaine
- Lire le journal d'audit de SAP AI Core pour les événements de sécurité et les messages d'échec d'authentification, et les câbler dans l'alerting
- Énoncer précisément ce que la plateforme SAP fournit contre ce que l'implémenteur doit configurer, pour chaque contrôle couvert par ce module
Aperçu du module
À qui s'adresse ce module. On vous demande de valider une solution d'IA générative ou agentique sur des données SAP, et « l'éditeur gère la sécurité » n'est pas une réponse que vos parties prenantes risque/contrôle accepteront. Ce module construit le modèle de menace et les contrôles SAP concrets pour les trois modes de défaillance qui font effectivement rejeter un projet IA en revue de mise en production : l'injection de prompt, l'exfiltration de données via des outils ou des journaux, et les lacunes d'habilitation. Il suppose acquis M325, M333 et, côté construction d'agents, M369.
Prérequis
- M333 (Fondamentaux IA et LLM pour consultants SAP) et M325 (SAP Generative AI Hub en pratique)
- M369 (SAP Build Process Automation avec agents) recommandé si la mise en production concernée inclut un agent, pas seulement un assistant à un seul tour
- Compréhension pratique du modèle de resource group et de multi-tenance de SAP AI Core
- Aisance à lire la documentation d'API et les en-têtes REST ; aucun code requis pour les exercices
Acquis
- Présider une revue de sécurité de mise en production pour une solution d'IA générative ou agentique SAP en s'appuyant sur des contrôles nommés et documentés plutôt que sur des assurances d'éditeur.
- Produire une configuration de filtrage de contenu et de masquage de données pour un cas d'usage SAP réel, catégories d'entités spécifiques à SAP incluses.
- Modéliser la menace de l'accès aux outils d'un agent et produire une liste d'outils autorisés avec périmètres et portes d'approbation humaine.
- Expliquer à un comité de risque, contrôle par contrôle, ce que la plateforme SAP fournit et ce dont l'implémenteur est responsable de la configuration.
Module complet réservé aux abonnés. Le module complet ajoute : le cadre de décision · le cas guidé de bout en bout · la grille de KPI · les anti-patterns · les blocs de code · le contrôle de connaissances · les schémas.