Fondamentaux IA et LLM pour consultants SAP — transformers, tokens, embeddings, contexte

Ce que vous apprendrez

• Estimer les tokens d'un prompt de ticket SAP en allemand, les mesurer avec getTokenUsage() dans le SAP Cloud SDK for AI et expliquer l'écart
• Convertir les tokens mesurés en GenAI tokens puis en capacity units selon la méthode de metering de SAP, en qualifiant les taux fictifs de « méthode seulement »
• Calculer COSINE_SIMILARITY avec VECTOR_EMBEDDING dans SAP HANA Cloud et expliquer pourquoi une colonne de vecteurs ne doit utiliser qu'un seul modèle d'embedding
• Choisir entre apprentissage en contexte, RAG, fine-tuning, modèle de raisonnement et modèle tabulaire pour un cas SAP donné, et justifier ce choix par une métrique
• Spécifier une définition d'outil (name, description, input_schema) et expliquer qui exécute l'appel et sous quelle identité
• Construire un jeu de référence de 30 cas avec seuils et validation nominative avant qu'une démo ne soit présentée comme un engagement

Aperçu du module

À qui s'adresse ce module. Vous construisez depuis des années des modèles BW, des espaces Datasphere ou des rapports S/4HANA, et les réunions de projet parlent désormais de token, d'embedding, de grounding et d'agent. Après ce module, vous saurez faire cinq choses sur un projet client : estimer ce qu'un prompt coûtera avant que quiconque le construise, vérifier qu'une recherche vectorielle compare des choses comparables, choisir entre prompting, retrieval et fine-tuning avec une justification écrite, expliquer qui exécute un appel d'outil, et lancer un test de 30 questions avant qu'une démo ne devienne un engagement. Deux d'entre elles se mesurent avec les labs du chapitre 4 (30 minutes). Les modules suivants supposent ce vocabulaire : M325 (Generative AI Hub en pratique), M326 (agents Joule), M329 (SAP-RPT et TabPFN), M330 (vecteurs HANA Cloud) et M331 (la certification C_AIG).

Source : SAP Help — HANA Cloud Vector Engine: similarity measures

Prérequis

• Maîtrise pratique d'au moins un produit data SAP (BW/4HANA, Datasphere, analytique embarquée S/4HANA ou SAP Analytics Cloud)
• Aisance dans la lecture du JSON et de requêtes SQL simples
• Facultatif pour les variantes pratiques de E1 et E2 : un accès au generative AI hub (ou à son essai de 30 jours) et une instance HANA Cloud avec la fonction NLP activée

Acquis

• Expliquer à un client, en langage simple, pourquoi un LLM peut être fluide et se tromper, et ce que change le grounding.
• Produire une estimation en tokens et en capacity units pour un cas d'usage SAP selon la méthode documentée par SAP, clairement séparée de tout prix.
• Concevoir au niveau conceptuel la partie recherche d'un cas d'usage RAG : modèle d'embedding, mesure de similarité, un modèle par colonne, fraîcheur et habilitations.
• Recommander apprentissage en contexte, RAG, fine-tuning, modèle de raisonnement ou modèle tabulaire pour un besoin SAP donné, avec l'évaluation qui le confirmerait.