Generative Modellfamilien — LLMs, Diffusion, GANs, VAEs und Multimodal

Was „generativ“ bedeutet und warum es mehrere Familien gibt

Ein generatives Modell lernt die statistische Form eines Datenbestands (Text, Bilder, Audio, Tabellenzeilen) und kann danach neue Instanzen ziehen, die aus derselben Quelle zu stammen scheinen. Ein diskriminatives Modell beantwortet „Zu welcher Klasse gehört das?“; ein generatives Modell beantwortet „Wie sähe ein plausibles Beispiel aus?“. Die folgenden Familien unterscheiden sich darin, wie sie diese Verteilung darstellen und wie sie daraus ziehen.

Grundlagen neuronaler Netze in einem Absatz

Alle fünf Familien bestehen aus neuronalen Netzen: Stapeln von Schichten, die ihre Eingabe jeweils mit einer Matrix von Zahlen (den Parametern oder Gewichten) multiplizieren, einen Bias addieren und eine nichtlineare Funktion anwenden. Training heißt, dem Netz viele Beispiele zu zeigen, mit einer Verlustfunktion einen Fehler zu messen und jeden Parameter leicht in die Richtung zu verschieben, die den Verlust senkt; diese Richtung wird per Backpropagation berechnet und per Gradientenabstieg angewendet.

Warum es zählt

• Berater werden zuerst gefragt „welche KI?“, dann „welches SAP-Produkt?“; eine klare Karte der fünf Familien verhindert, dass „ein LLM“ pauschal auf Tabellen, Bilder und Dokumente angewendet wird.
• Jede Familie scheitert anders (Halluzination, Mode Collapse, unscharfe Proben, langsames Sampling); die Fehlerart bestimmt daher die Kontrollen wie Grounding, Content Filtering und menschliche Prüfung.
• Die Metriken unterscheiden sich je Familie (Perplexity, FID, menschliche Bewertung); eine Anbieteraussage „besser“ ist nur sinnvoll, wenn man den verwendeten Maßstab kennt.

Kernpunkte

• Generativ = eine Datenverteilung lernen und daraus neue Instanzen ziehen.
• Autoregressive LLMs sagen das nächste Token voraus; der Transformer (arXiv:1706.03762) machte dies skalierbar.
• Diffusion = gelerntes Entrauschen von Rauschen zu einem Bild; latente Diffusion (arXiv:2112.10752) arbeitet in einem komprimierten Raum und akzeptiert Textkonditionierung.
• GANs lassen einen Generator gegen einen Diskriminator antreten; schnell, aber instabil und anfällig für Mode Collapse.
• VAEs kodieren in einen latenten Raum und dekodieren zurück; sie leben als Autoencoder in der latenten Diffusion weiter.
• Multimodale Modelle teilen eine Repräsentation über Medien hinweg (CLIP, arXiv:2103.00020, 400 Millionen Bild-Text-Paare).
• Bewertung: Perplexity für Sprachmodelle, FID und Inception Score für Bilder, menschliche Bewertung für offene Ausgaben.
• In SAP begegnen Ihnen vor allem LLMs (Generative AI Hub, Joule), tabellarische Modelle (SAP-RPT-1) und Dokumentenextraktion (SAP Document AI); Bild- und Videoerzeugung liegt weitgehend außerhalb des Stacks.

Begriffe auf dieser Seite

Generatives Modell

Modell, das eine Datenverteilung lernt und neue Instanzen daraus zieht.

Token

Texteinheit, die ein Sprachmodell liest und vorhersagt.

Transformer

Auf Attention basierende Netzarchitektur aus arXiv:1706.03762.

Diffusionsmodell

Modell, das trainiert wird, Rauschen schrittweise zu entfernen, und dann aus reinem Rauschen erzeugt.

Latenter Raum

Komprimierte Repräsentation, in der ein VAE oder ein latentes Diffusionsmodell arbeitet.

Mode Collapse

GAN-Fehler, bei dem der Generator nur wenige Ausgabetypen abdeckt.

Reparametrisierungstrick

Schreibt eine Zufallsstichprobe als deterministische Funktion plus Rauschen, damit Gradienten fließen.

Perplexity

Exponenzierte mittlere negative Log-Likelihood pro Token; niedriger ist besser, tokenizerabhängig.

Quellen

1. arXiv:1706.03762 — Attention Is All You Need (submitted 12 June 2017; accessed 18 Oct 2026)
2. arXiv:1406.2661 — Generative Adversarial Networks (submitted 10 June 2014; accessed 18 Oct 2026)
3. arXiv:1312.6114 — Auto-Encoding Variational Bayes (submitted 20 December 2013; accessed 18 Oct 2026)
4. arXiv:2006.11239 — Denoising Diffusion Probabilistic Models (June 2020; accessed 18 Oct 2026)
5. arXiv:2112.10752 — High-Resolution Image Synthesis with Latent Diffusion Models (December 2021; accessed 18 Oct 2026)
6. arXiv:2103.00020 — Learning Transferable Visual Models From Natural Language Supervision (February 2021; accessed 18 Oct 2026)
7. arXiv:1706.08500 — GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium (introduces FID; June 2017; accessed 18 Oct 2026)
8. Hugging Face Transformers documentation — Perplexity of fixed-length models (accessed 18 Oct 2026)
9. SAP Learning — Discovering the Orchestration Service, generative AI hub course (modules: grounding, templating, content filtering, data masking, translation; accessed 18 Oct 2026)
10. SAP Architecture Center — Document Processing with SAP Document AI (page last updated 3 June 2026; 85-95% accuracy figure is vendor-reported; accessed 18 Oct 2026)
11. SAP Developer tutorial — extract data with generative AI in SAP Document AI (field descriptions act as LLM prompts; accessed 18 Oct 2026 via search result)
12. Towards Data Science — One Model to Rule Them All: SAP-RPT-1 and the Future of Tabular Foundation Models (secondary source, cited via search summary; accessed 18 Oct 2026)
13. ERP Today — SAP-RPT-1 Brings Tabular Foundation Models to Enterprise AI (secondary source, cited via search summary; accessed 18 Oct 2026)
14. SAP product page — SAP-RPT (not retrievable on 18 Oct 2026, HTTP 403; verify directly)