AI & Analytics Legends La plateforme de connaissance SAP Analytics
Guide

Architecte RAG SAP et architecte LLM SAP : les décisions avant l’indexation

Architecte RAG SAP et architecte LLM SAP : les décisions avant l’indexation — illustration de section Analytics Legends pour l'intelligence de marché SAP analytics (Datasphere, BDC, SAC, BW/4HANA)

À jour au

Édité par , éditeur et directeur de la publication — 27 ans d'écosystème SAP. Comment ces pages sont produites, et où intervient l'automatisation.

Un architecte RAG SAP décide comment un modèle de langage reçoit la connaissance de l’entreprise, et sur quel support, avant qu’un seul document soit indexé. Chez SAP, la question se tranche entre l’ancrage documentaire géré du Generative AI Hub, des tables vectorielles construites directement dans SAP HANA Cloud, et un ancrage structuré par les produits de données et le graphe de connaissances. Le bon choix dépend de la nature de la question posée, pas du modèle retenu.

Architecte LLM SAP : géré ou construit

L’ancrage documentaire géré passe par trois API : Pipelines pour synchroniser un référentiel, Vector pour pousser vos propres morceaux de texte, Retrieval pour chercher. Il s’appuie sur le stockage vectoriel de HANA, avec des quotas publiés : une recherche renvoie au plus 100 morceaux ou 10 documents, et le service accepte 250 recherches vectorielles par minute. Le stockage et la récupération sont facturés en unités de capacité, à part des jetons du modèle.

La voie construite consiste à créer vos propres tables dans le moteur vectoriel de HANA Cloud. Vous gérez le découpage, mais vous gagnez la sécurité au niveau de la ligne et surtout la jointure : un résultat de similarité se joint, dans la même requête SQL, aux mesures et hiérarchies de vos données métier.

Les réglages qui changent les réponses

Le moteur vectoriel de HANA Cloud stocke des vecteurs REAL_VECTOR ou HALF_VECTOR, calcule la similarité cosinus ou la distance euclidienne, et peut générer les plongements dans la base. Ses index HNSW sont approximatifs : un résultat peut différer d’un balayage exact. Avant d’accuser les données lors d’une évaluation, il faut rejouer les cas en échec avec l’indication NO_VECTOR_INDEX ; si le balayage exact trouve le bon passage, c’est le réglage de l’index qu’il faut revoir. Un reclassement par CROSS_ENCODE affine ensuite les meilleurs candidats.

Autre erreur fréquente : mélanger dans un même index les sorties de deux modèles de plongement différents. La recherche de similarité casse alors sans aucun message d’erreur.

Droits, fraîcheur et évaluation

Les pipelines gérés se rafraîchissent chaque jour et contiennent au plus 8 000 documents chacun : une question sur un stock ou un prix du jour relève d’une requête structurée, pas de l’index documentaire. Côté droits, l’ancrage documentaire de Joule rend les documents ingérés visibles de tous les utilisateurs Joule du tenant, sans filtrage par utilisateur à ce jour. L’architecte segmente donc les sources par public avant l’indexation.

Avant la mise en production, la fonction Evaluations de SAP AI Core note les combinaisons de prompt et de modèle sur votre propre jeu de données, notamment l’ancrage effectif des réponses et la pertinence du contexte récupéré.

Freelance RAG SAP et freelance LLM SAP : ce que dit le marché

Dans le corpus de missions d’Analytics Legends du 10 octobre 2026, 47 des 1 636 annonces actives portent la compétence RAG. Seules 5 exigent aussi des compétences SAP, toutes en CDI ; les 42 autres sont des postes d’IA généraliste, en majorité des missions freelance en France. Les compétences LLM ou IA générative figurent sur 147 annonces, dont 41 liées à SAP, toutes en CDI.

En France, un consultant RAG SAP freelance ou un consultant LLM SAP freelance se trouve donc rarement par annonce, et un excellent ingénieur RAG généraliste ne connaît pas forcément les modèles de données, les autorisations et la couche sémantique de SAP.

Consultant RAG SAP indépendant ou consultant LLM SAP indépendant : les questions à poser

Quel canal pour quelle question, et pourquoi ? Comment les droits du système source ont-ils été reproduits avant l’indexation ? Comment le nombre de morceaux récupérés a-t-il été réglé : sur de vraies questions par cas d’usage, ou par habitude ? Quelles mesures d’évaluation ont été lancées avant la production ? Un consultant qui répond par des exemples précis a livré du RAG en production ; un consultant qui énumère des frameworks a surtout construit des prototypes.

Ce que nous ne pouvons pas affirmer

Aucune enquête à notre disposition ne mesure un TJM pour un architecte RAG SAP ; la fourchette citée est une prévision. Le filtrage par droits utilisateur dans l’ancrage documentaire de Joule n’était pas disponible à la date de nos sources. Les décomptes d’annonces dépendent de l’étiquetage et ne valent qu’à la date indiquée.

Questions fréquentes

Faut-il une base vectorielle séparée pour faire du RAG sur SAP ?

Non. Le moteur vectoriel de SAP HANA Cloud stocke les vecteurs à côté des données métier et permet la jointure en SQL ; l’ancrage documentaire géré s’appuie lui aussi sur le stockage vectoriel de HANA.

RAG ou réentraînement du modèle ?

Sur la connaissance SAP, le RAG est la norme de production : il reste à jour sans réentraînement et cite ses sources. Le réentraînement se justifie pour la forme des réponses, pas pour des faits qui changent à chaque version.

Quel TJM prévoir pour un architecte RAG SAP freelance ?

Aucun référentiel ne mesure ce tarif. Notre étude des TJM donne, pour un spécialiste Joule et agents en France, une prévision étiquetée de 863 à 1 050 € par jour.

Engager l'éditeur

Ce guide est écrit par . 27 ans de SAP — Datasphere, Business Data Cloud, SAC Planning, Joule. Freelance ou CDI · Hybride / à distance · Toute l'EMEA. Disponible à partir du 19 octobre 2026.

Profil et contact

Sur quoi cette page s'appuie

Sources externes

À lire ensuite