Konzeptkarte

RAG-Grounding über den SAP Knowledge Graph

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist RAG-Grounding über den SAP Knowledge Graph?

RAG ist der richtige Grounding-Modus für Joule bei der Suche in unstrukturierten Dokumenten – Verträge, Handbücher, Richtlinien-Q&A – eigenständig, aber kombinierbar mit der Traversierung des SAP Knowledge Graph.

Worum es geht

Retrieval-Augmented Generation, kurz RAG, ist die Technik, mit der ein Foundation Model relevante Passagen aus einem externen Wissensspeicher heranzieht, bevor es eine Antwort verfasst, statt sich allein auf die während des Trainings aufgenommenen Muster zu verlassen. Innerhalb der SAP-Joule-Architektur ist RAG einer von drei Grounding-Modi, zwischen denen ein Designer für einen Agenten wählen kann — die beiden anderen sind eine direkte Analytic-Model-Abfrage gegen strukturierte SAC- oder Datasphere-Daten sowie die Traversierung des SAP Knowledge Graph, der aus S/4HANA-, SuccessFactors- und Ariba-Metadaten aufgebauten Entitäts-Beziehungsschicht. RAG ist speziell das richtige Werkzeug für unstrukturierte Inhalte: Vertragsklauseln, Wartungshandbücher, Richtlinien-PDFs, Wissensdatenbank-Artikel — alles, was als Fließtext existiert, statt als Zeilen und Spalten oder als typisierte Beziehungen zwischen Geschäftsobjekten.

Der Grund, warum das kommerziell wichtig ist, ist einfach. Ein auf öffentlichem Internettext trainiertes Foundation Model hat die interne Beschaffungsrichtlinie eines Kunden nie gesehen und kann daher „Was sind die Zahlungsbedingungen für einen Tier-2-Lieferanten?” nicht allein aus seinen Gewichten beantworten. Sich selbst überlassen, wird es entweder ablehnen oder, schlimmer, eine plausibel klingende, aber falsche Antwort erzeugen. RAG schließt diese Lücke in zwei Phasen: einer Ingestion-Phase, die die Dokumente des Unternehmens im Voraus in durchsuchbare Vektor-Embeddings umwandelt, und einer Retrieval-Phase, die im Moment der Fragestellung die Passagen findet, die der Frage inhaltlich am nächsten sind, und sie dem Modell als Kontext übergibt. Das Modell verfasst seine Antwort dann aus diesem abgerufenen Material statt aus dem Gedächtnis, was die Antwort auf ein Quelldokument zurückverfolgbar macht.

Warum es zählt

Ein Joule-Agent, der zu Zahlungsbedingungen für Tier-2-Lieferanten gefragt wird, kann nicht aus den Trainingsgewichten antworten — die Antwort liegt in einem Beschaffungsrichtlinien-PDF, das nur RAG-basiertes Retrieval sichtbar machen kann.
Die Chunk-Größe (etwa 300–800 Tokens) ist die erste architektonische Entscheidung — zu klein fragmentiert den Kontext, zu groß verschlechtert die Embedding-Qualität.
Die Wahl zwischen RAG, Knowledge-Graph-Traversierung und Analytic-Model-Abfrage ist eine Moduswahl, kein Standardfall — eine falsche Wahl verankert die Antwort falsch.

Kernpunkte

RAG = einer von drei Joule-Grounding-Modi: einsetzen für unstrukturiertes Dokumenten-Retrieval (Verträge, Verfahrensanweisungen, Handbücher); Analytic Model für strukturierte KPIs; Knowledge Graph für Entitäts-Traversierung.
SAP AI Foundation Vector Store: EU-Datenebene-konform (Frankfurt/Amsterdam); Zugriff auf Indexebene gesteuert, nicht auf Dokumentebene — separate Indizes pro Zugriffsstufe für sensible Inhalte.
Pipeline: chunken (300–800 Tokens) → embedden (ada-002 oder multilingual-e5) → Metadaten-Tag → HNSW/IVF-Flat-Index → Cosinus-Ähnlichkeitssuche zur Inferenzzeit.
Halluzinationsunterdrückung: „nur aus dem bereitgestellten Kontext antworten; falls nicht vorhanden, dies mitteilen” — Standardanweisung in jedem Joule-RAG-Prompt.
Hybrides Grounding: Knowledge Graph identifiziert Entitäten (Lieferanten-ID, Vertrags-IDs) + RAG ruft Klauseltext aus diesen Verträgen ab — Kombination beider für höchste Qualität bei Procurement-/Legal-Agenten.
Die Anzeige von Zitaten ist sowohl ein Vertrauensmerkmal für Nutzer als auch eine Transparenzpflicht nach Artikel 13 des EU AI Act für Hochrisiko-Anwendungsfälle.
Am häufigsten übersehene Designentscheidung: ein einziger gemeinsamer Vector-Store-Index für heterogene Dokumentkategorien = Governance-Versagen. Ein Index pro Zugriffsstufe.
RAG-Grounding über den SAP Knowledge Graph ist erst dann beherrscht, wenn es eine benannte Käuferentscheidung verändert.
Beginnen Sie mit dem semantischen Vertrag und dem Kontrollmodell, bevor Sie das Tool demonstrieren.
Nutzen Sie aktuelle SAP-, Analysten-, Studien-, KG- und News-Signale als Beleg, nicht als Dekoration.

Begriffe auf dieser Seite

RAG (Retrieval-Augmented Generation): Technik, die ein Retrieval-System (Vektor-Ähnlichkeitssuche über einen Dokumentindex) mit einem generativen LLM kombiniert — das LLM erzeugt seine Antwort aus abgerufenen Dokument-Chunks, statt allein aus Trainingsdaten.
Vector Store: Verwaltete Datenbank für Vektor-Embeddings; unterstützt approximative Nearest-Neighbor-Ähnlichkeitssuche (ANN) mit Algorithmen wie HNSW oder IVF-Flat; Kerninfrastruktur für RAG-Pipelines.
Embedding: Hochdimensionale numerische Darstellung von Text, erzeugt von einem Embedding-Modell; semantisch ähnliche Texte erzeugen geometrisch nahe beieinanderliegende Vektoren, was Ähnlichkeitssuche ermöglicht.
Chunking: Der Prozess, Quelldokumente für das Embedding in Segmente von 200–800 Tokens zu unterteilen; Chunk-Größe und Überlappung sind die wichtigsten Determinanten der RAG-Retrieval-Qualität.
SAP Knowledge Graph: Entitäts-Beziehungsgraph, abgeleitet aus Objektmetadaten von S/4HANA, SuccessFactors und Ariba — Material-Lieferant-Werk-, Mitarbeiter-Organisation-Rolle-, Vertrag-Lieferant-Beziehungen. Genutzt für Entitäts-Traversierungs-Grounding in Joule-Agenten.
Cosine similarity: Die primäre Ähnlichkeitsmetrik für Vektorsuche — misst den Winkel zwischen zwei hochdimensionalen Vektoren; Wert 1,0 = identische Richtung (semantisch sehr ähnlich); 0,0 = orthogonal (unverwandt).
HNSW (Hierarchical Navigable Small World): Graphbasierter approximativer Nearest-Neighbor-Indexalgorithmus, optimiert für Ähnlichkeitssuche unter einer Sekunde bei hoher Trefferquote; Standard-Indextyp für die meisten produktiven Vector-Store-Einführungen.
Cross-encoder reranker: Ein Modell, das ein Paar aus Anfrage und Kandidaten-Chunk als gemeinsame Eingabe nimmt und deren Relevanz präziser bewertet als reine Embedding-Ähnlichkeit; fügt 200–400 ms Latenz hinzu, verbessert aber die Präzision bei dichten Fachdokumenten deutlich.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →