Fondamentaux IA et LLM pour consultants SAP — transformers, tokens, embeddings, contexte
À jour au 2026-09-23
Première marche du parcours SAP AI, pour les consultants data SAP seniors qui débutent en IA. Il explique, avec exactitude et sans équations inutiles, ce que le reste du parcours suppose acquis : la prédiction du token suivant et l'attention du transformer ; les tokens comme unité des limites et du coût, et la chaîne de mesure SAP tokens → GenAI tokens → capacity units (note SAP 3437766) ; les embeddings et la similarité cosinus dans le Vector Engine de HANA Cloud ; la fenêtre de contexte et le context rot ; la température et le non-déterminisme ; l'hallucination, le grounding et le RAG ; apprentissage en contexte, RAG ou fine-tuning ; les modèles de raisonnement ; l'appel d'outils, les agents, MCP et A2A ; les modèles tabulaires SAP-RPT face aux LLM ; et l'évaluation. Trois exercices (compter des tokens, comparer des embeddings, choisir RAG ou fine-tuning pour trois cas SAP) et une auto-évaluation conditionnent le passage à M325.
Ce que vous apprendrez
- Expliquer la prédiction du token suivant, le transformer et l'attention assez précisément pour anticiper l'effet de la longueur du prompt sur le coût, la latence et la qualité des réponses
- Estimer puis mesurer les tokens d'un prompt SAP, et convertir des tokens en GenAI tokens puis en capacity units selon la méthode de mesure de SAP (note SAP 3437766), sans jamais présenter des taux fictifs comme des prix
- Décrire ce qu'est un embedding, calculer une similarité cosinus dans le Vector Engine de HANA Cloud et expliquer pourquoi une colonne de vecteurs ne doit utiliser qu'un seul modèle d'embedding
- Utiliser à bon escient la fenêtre de contexte, la température et la sortie structurée, en sachant qu'une température 0 n'est pas déterministe et que les contextes longs dégradent le rappel
- Choisir entre apprentissage en contexte, RAG et fine-tuning pour un cas d'usage SAP, et justifier ce choix par une métrique d'évaluation
- Expliquer l'appel d'outils, les agents, MCP et A2A — y compris qui exécute une action dans S/4HANA — et savoir quand un modèle tabulaire comme SAP-RPT l'emporte sur un LLM
Aperçu du module
À qui s'adresse ce module. Vous construisez depuis des années des modèles BW, des espaces Datasphere ou des états S/4HANA ; désormais, les réunions parlent de tokens, d'embeddings, de grounding et d'agents. Ce module est la première marche du parcours SAP AI de la plateforme. Il vous donne le socle de connaissances — exact, sans mystique — que les modules suivants supposent acquis : M325 (generative AI hub en pratique), M326 (agents Joule), M329 (SAP-RPT et TabPFN), M330 (vecteurs et graphe de connaissances dans HANA Cloud) et M331 (la certification C_AIG). Chaque section se termine par sa conséquence pour un projet SAP ; les trois exercices se font sur un tenant d'essai ou sur papier.
Prérequis
- Maîtrise pratique d'au moins un produit data SAP (BW/4HANA, Datasphere, analytique embarquée S/4HANA ou SAP Analytics Cloud)
- Aisance dans la lecture du JSON et de requêtes SQL simples
- Facultatif pour les variantes pratiques de E1 et E2 : un accès au generative AI hub (ou à son essai de 30 jours) et une instance HANA Cloud avec la fonction NLP activée
Acquis
- Expliquer à un client, en langage simple, pourquoi un LLM peut être fluide et se tromper, et ce que change le grounding.
- Produire une estimation en tokens et en capacity units pour un cas d'usage SAP selon la méthode documentée par SAP, clairement séparée de tout prix.
- Concevoir au niveau conceptuel la partie recherche d'un cas d'usage RAG : modèle d'embedding, mesure de similarité, un modèle par colonne, fraîcheur et habilitations.
- Recommander apprentissage en contexte, RAG, fine-tuning, modèle de raisonnement ou modèle tabulaire pour un besoin SAP donné, avec l'évaluation qui le confirmerait.
Module complet réservé aux abonnés. Le module complet ajoute : le cadre de décision · le cas guidé de bout en bout · la grille de KPI · les anti-patterns · les blocs de code · le contrôle de connaissances · les schémas.