Familles de modèles génératifs — LLM, diffusion, GAN, VAE et multimodal

Ce que signifie « génératif » et pourquoi il existe plusieurs familles

Un modèle génératif apprend la forme statistique d'un ensemble de données (texte, images, audio, lignes de tableau) puis peut échantillonner de nouvelles instances qui semblent issues de la même source. Un modèle discriminatif répond à « de quelle classe s'agit-il ? » ; un modèle génératif répond à « à quoi ressemblerait un exemple plausible ? ». Les familles ci-dessous diffèrent par la manière de représenter cette distribution et d'y échantillonner.

Les bases des réseaux de neurones en un paragraphe

Les cinq familles reposent sur des réseaux de neurones : des piles de couches, chacune multipliant son entrée par une matrice de nombres (les paramètres ou poids), ajoutant un biais et appliquant une fonction non linéaire. Entraîner, c'est présenter au réseau de nombreux exemples, mesurer une erreur par une fonction de perte, et ajuster légèrement chaque paramètre dans le sens qui réduit cette perte ; ce sens est calculé par rétropropagation et appliqué par descente de gradient.

Pourquoi c'est important

• On demande aux consultants « quelle IA ? » avant « quel produit SAP ? » ; une carte claire des cinq familles évite d'appliquer par défaut « un LLM » aux tableaux, images et documents.
• Chaque famille échoue différemment (hallucination, effondrement des modes, échantillons flous, échantillonnage lent) ; le mode de défaillance dicte donc les contrôles à prévoir : ancrage, filtrage de contenu, relecture humaine.
• Les métriques diffèrent selon la famille (perplexité, FID, évaluation humaine) ; une promesse de « mieux » d'un éditeur n'a de sens que si l'on connaît l'étalon utilisé.

Points clés

• Génératif = apprendre une distribution de données, puis y échantillonner de nouvelles instances.
• Les LLM autorégressifs prédisent le jeton suivant ; le Transformer (arXiv:1706.03762) a permis le passage à l'échelle.
• Diffusion = débruitage appris du bruit vers une image ; la diffusion latente (arXiv:2112.10752) travaille dans un espace compressé et accepte un conditionnement par texte.
• Les GAN opposent un générateur à un discriminateur ; rapides mais instables et sujets à l'effondrement des modes.
• Les VAE encodent vers un espace latent et décodent en retour ; ils survivent comme autoencodeur dans la diffusion latente.
• Les modèles multimodaux partagent une représentation entre médias (CLIP, arXiv:2103.00020, 400 millions de paires image-texte).
• Évaluation : perplexité pour les modèles de langage, FID et Inception Score pour les images, évaluation humaine pour la sortie ouverte.
• Dans SAP, on rencontre surtout des LLM (generative AI hub, Joule), des modèles tabulaires (SAP-RPT-1) et l'extraction de documents (SAP Document AI) ; la génération d'images et de vidéos est largement hors de la pile.

Termes employés sur cette page

Modèle génératif

Modèle qui apprend une distribution de données et y échantillonne de nouvelles instances.

Jeton (token)

Unité de texte que lit et prédit un modèle de langage.

Transformer

Architecture de réseau fondée sur l'attention, présentée dans arXiv:1706.03762.

Modèle de diffusion

Modèle entraîné à retirer le bruit pas à pas, puis utilisé pour générer à partir de bruit pur.

Espace latent

Représentation compressée dans laquelle travaille un VAE ou un modèle de diffusion latente.

Effondrement des modes

Défaillance d'un GAN où le générateur ne couvre que quelques types de sorties.

Astuce de reparamétrisation

Réécrit un tirage aléatoire en fonction déterministe plus bruit pour que les gradients passent.

Perplexité

Exponentielle de la log-vraisemblance négative moyenne par jeton ; plus bas est mieux, dépend du tokeniseur.

Sources

1. arXiv:1706.03762 — Attention Is All You Need (submitted 12 June 2017; accessed 18 Oct 2026)
2. arXiv:1406.2661 — Generative Adversarial Networks (submitted 10 June 2014; accessed 18 Oct 2026)
3. arXiv:1312.6114 — Auto-Encoding Variational Bayes (submitted 20 December 2013; accessed 18 Oct 2026)
4. arXiv:2006.11239 — Denoising Diffusion Probabilistic Models (June 2020; accessed 18 Oct 2026)
5. arXiv:2112.10752 — High-Resolution Image Synthesis with Latent Diffusion Models (December 2021; accessed 18 Oct 2026)
6. arXiv:2103.00020 — Learning Transferable Visual Models From Natural Language Supervision (February 2021; accessed 18 Oct 2026)
7. arXiv:1706.08500 — GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium (introduces FID; June 2017; accessed 18 Oct 2026)
8. Hugging Face Transformers documentation — Perplexity of fixed-length models (accessed 18 Oct 2026)
9. SAP Learning — Discovering the Orchestration Service, generative AI hub course (modules: grounding, templating, content filtering, data masking, translation; accessed 18 Oct 2026)
10. SAP Architecture Center — Document Processing with SAP Document AI (page last updated 3 June 2026; 85-95% accuracy figure is vendor-reported; accessed 18 Oct 2026)
11. SAP Developer tutorial — extract data with generative AI in SAP Document AI (field descriptions act as LLM prompts; accessed 18 Oct 2026 via search result)
12. Towards Data Science — One Model to Rule Them All: SAP-RPT-1 and the Future of Tabular Foundation Models (secondary source, cited via search summary; accessed 18 Oct 2026)
13. ERP Today — SAP-RPT-1 Brings Tabular Foundation Models to Enterprise AI (secondary source, cited via search summary; accessed 18 Oct 2026)
14. SAP product page — SAP-RPT (not retrievable on 18 Oct 2026, HTTP 403; verify directly)