SAP-RPT — Comment fonctionne le Relational Pretrained Transformer (architecture)

SAP-RPT (Relational Pretrained Transformer) appartient à une classe récente de modèles, les modèles de fondation tabulaires, qui font pour les tables ce que les grands modèles de langage ont fait pour le texte : un seul réseau pré-entraîné qui s'adapte à une nouvelle tâche au moment de l'inférence au lieu d'être entraîné pour elle. Cette fiche explique la mécanique — ce qui se passe dans un appel de prédiction et pourquoi les choix de conception pèsent sur la précision. Les versions, l'accès, les limites de l'API et la tarification sont traités dans C165.

Le mécanisme central : l'apprentissage en contexte sur une table

Un modèle classique s'entraîne une fois par tâche : on ajuste un XGBoost sur l'historique des factures, puis on score les nouvelles factures. SAP-RPT inverse la logique. Ses poids sont figés après le pré-entraînement ; les « données d'entraînement » de votre tâche voyagent dans chaque requête. On envoie des lignes de contexte, dont la valeur cible est connue, et des lignes de requête, dont la cellule cible contient un marqueur. Le modèle lit la table entière d'un coup et, pour chaque ligne de requête, déduit la cible des relations qu'il observe entre colonnes et entre la ligne de requête et les lignes de contexte. Aucune mise à jour de gradient n'a lieu. C'est l'apprentissage en contexte (in-context learning, ICL), le principe qui permet à un LLM de suivre quelques exemples dans un prompt — appliqué aux lignes et aux colonnes plutôt qu'aux mots.

Pourquoi c'est important

• Le contexte étant le jeu d'entraînement, la préparation des données passe de l'ingénierie des variables à la curation du contexte — la compétence qui détermine la précision de RPT dans un projet.
• Comprendre la prédiction multi-cibles conjointe et la sensibilité au contexte évite les escalades « le modèle est instable » quand les résultats changent avec les lignes envoyées.
• La conception sémantique, fondée sur des données réelles, explique pourquoi RPT vise les tables d'ERP pleines de codes et de textes courts, et où TabPFN, TabICL ou le gradient boosting peuvent encore l'emporter.

Points clés

• Apprentissage en contexte : les poids sont figés ; chaque requête transporte des lignes de contexte (cible connue) et des lignes de requête ([PREDICT]) ; aucune mise à jour de gradient.
• Filiation ConTextTab (arXiv 2506.10707, spotlight NeurIPS 2025) : ICL natif pour les tables plus sémantique — embeddings par modalité et embeddings des noms de colonnes et des valeurs par un modèle de langage.
• Pré-entraîné sur des tables réelles (T4, dérivé de TabLib, selon la fiche du modèle OSS), contrairement aux modèles à loi a priori synthétique comme TabPFN.
• Jusqu'à dix cibles sont prédites conjointement : les résultats peuvent différer d'appels séparés à une seule cible.
• La précision se pilote par le contexte : taille, mode deep (modèle large, plus de 8 000 lignes) et stratégie de sélection (random ou heuristic) dans l'orchestration tabulaire.
• L'API commerciale masque les réglages OSS (taille de contexte, bagging) derrière un service managé, mais le même arbitrage précision/latence/coût s'applique — le mode deep est l'équivalent commercial d'un contexte plus grand associé au bagging.
• Le contexte est le seul « jeu d'entraînement » du modèle pour chaque appel : le versionner, le cribler contre la fuite de la cible et la couverture des classes, et rejouer une ablation de contexte à réponse connue chaque fois que la population métier évolue.

Termes employés sur cette page

Apprentissage en contexte (ICL)

Adaptation à une tâche au moment de l'inférence à partir d'exemples placés dans l'entrée du modèle, sans mise à jour des poids.

Lignes de contexte / lignes de requête

Lignes à cible connue qui servent de jeu d'entraînement pour l'appel, et lignes dont la cible est remplacée par [PREDICT].

ConTextTab

Modèle de recherche SAP (arXiv 2506.10707) qui combine ICL natif pour les tables, embeddings sémantiques et données d'entraînement réelles ; base de conception citée pour SAP-RPT.

Embedding par modalité

Encodage distinct des cellules numériques, de date et de texte, afin que chaque type de donnée soit représenté de façon adaptée.

Bagging (en ICL)

Exécution de plusieurs prédictions sur des échantillons de contexte différents, ensuite agrégées ; réglage exposé dans SAP-RPT-1-OSS.

Sélection heuristique du contexte

Stratégie de l'orchestration tabulaire qui retient les lignes de contexte les plus proches des lignes de requête ; l'alternative est l'échantillonnage aléatoire.

Sources

1. arXiv — ConTextTab: A Semantics-Aware Tabular In-Context Learner (2506.10707, NeurIPS 2025 spotlight)
2. Hugging Face — SAP/sap-rpt-1-oss model card (architecture, training data, context/bagging settings, license)
3. SAP — SAP-RPT product page (FAQ: in-context learning, orchestration, observability)
4. SAP Help — SAP-RPT-1.6 (joint multi-target prediction, context mode, recommended context sizes)
5. SAP Help — SAP-RPT-1.5 model specifications
6. SAP Community — SAP-RPT-1.6, Tabular Orchestration and RPT Playground API (context selection strategies)
7. GitHub — SAP-samples/sap-rpt-1-oss (install, SAP_RPT_OSS_Classifier / Regressor, max_context_size, bagging)
8. arXiv — TabICL: A Tabular Foundation Model for In-Context Learning on Large Data (2502.05564)
9. Wikipedia — TabPFN (prior-data fitted networks, version history)
10. SAP Architecture Center — Predictive & Tabular AI (golden path)
11. Prior Labs — TabPFN 3.5 changelog (neighbouring architecture, in-context tabular family)
12. SAP Community — Prior Labs' TabPFN-3.5-Plus Is Available Now in SAP AI Core
13. SAP News Center - SAP Connect keynote: autonomous enterprise in action (7 Oct 2026)