Konzeptkarte

Grounding & RAG (Retrieval-Augmented Generation)

Stand 6. Oktober 2026

Redaktion: Cédric Mary, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Grounding & RAG (Retrieval-Augmented Generation)?

Grounding liefert einem Modell zur Anfragezeit die Unternehmensfakten, auf die es nie trainiert wurde – für aktuelle und nachvollziehbare Antworten. Bei SAP gibt es dafür drei konkrete Kanäle: das Grounding-Modul des Orchestration Service in SAP AI Core (Dokumente werden über Pipelines-, Vector- und Retrieval-API zerlegt, eingebettet und abgerufen), Dokument-Grounding für Joule und Joule-Agenten sowie strukturiertes Grounding über BDC-Datenprodukte und SAP Knowledge Graph. Die Wahl des Kanals ist die erste Designentscheidung.

Grounding und RAG in einem Absatz

Ein großes Sprachmodell kennt, was in seinen Trainingsdaten stand – und nichts über Ihre Einkaufsrichtlinie, den Lagerbestand der letzten Nacht oder die Klausel eines Lieferantenvertrags. Grounding ist der Oberbegriff dafür, diesen fehlenden Kontext zur Anfragezeit bereitzustellen; Retrieval-Augmented Generation (RAG) ist die gängigste Technik: Wissen vorab indexieren, bei eingehender Frage die relevanten Stellen abrufen und sie mit dem Prompt an das Modell übergeben, damit es seine Antwort daraus formuliert. Die Dokumentation von SAP AI Core beschreibt das Grounding-Modul genau so: Modelle mit externen Datenquellen verbinden, relevante Informationen zur Laufzeit abrufen und als Kontext für die Generierung bereitstellen.

Die drei Grounding-Kanäle bei SAP

1. Grounding-Modul der Orchestrierung (SAP AI Core, Generative AI Hub). Für Dokumente. Bei der Indexierung werden Dokumente in Chunks zerlegt, in Embeddings umgewandelt und in einer Vektordatenbank abgelegt (Pipelines-API und Vector-API); zur Abfragezeit wird die Frage eingebettet, ähnlicher Inhalt gesucht und das Ergebnis in den Prompt eingefügt (Retrieval-API). Die Wissensbasis lässt sich auf zwei Wegen füllen: durch eine Daten-Pipeline über ein unterstütztes Repository oder indem Sie eigene Chunks über die Vector-API einspielen. Laut Dokumentation unterstützte Repositories: Microsoft SharePoint, AWS S3, SFTP, SAP Build Work Zone, SAP Document Management Service, ServiceNow (Knowledge-Base-Artikel in HTML) und Google Drive. Unterstützt werden unter anderem PDF, HTML, TXT, DOCX, PPT, JSON (je nach Repository) sowie Bilder; extrahiert wird Klartext (bei PPT zusätzlich Bilder und Tabellen), die Aktualisierung erfolgt täglich, mit höchstens 8.000 Dokumenten pro Pipeline. Die Grounding-Konfiguration ist in Orchestration-Workflow V1 (inzwischen veraltet) und V2 identisch.

Warum es zählt

Grounding macht den Unterschied zwischen einem Modell, das richtig klingt, und einem, dessen Antwort sich auf ein Dokument oder einen gesteuerten Datensatz zurückführen lässt.
SAP bietet drei getrennte Kanäle – Orchestrierungs-Grounding für Dokumente, Dokument-Grounding für Joule, strukturiertes Grounding über BDC und SAP Knowledge Graph –, und jeder scheitert anders, wenn man ihn falsch einsetzt.
Verwaltete Grounding-Pipelines haben harte Grenzen (tägliche Aktualisierung, 8.000 Dokumente pro Pipeline), die die Architektur bestimmen, bevor ein Prompt geschrieben ist.

Kernpunkte

Grounding = Unternehmenskontext zur Anfragezeit bereitstellen; RAG = indexieren, abrufen, in den Prompt einfügen.
Grounding-Modul der Orchestrierung (SAP AI Core): Pipelines-API + Vector-API zum Indexieren, Retrieval-API zum Suchen.
Repositories: SharePoint, AWS S3, SFTP, SAP Build Work Zone, SAP Document Management Service, ServiceNow, Google Drive.
Verwaltete Pipelines: Klartext-Extraktion, tägliche Aktualisierung, höchstens 8.000 Dokumente pro Pipeline.
Voraussetzungen laut SAP-Tutorial: AI-Core-Plan „extended“, für Dokument-Grounding aktivierte Ressourcengruppe, generische Secrets, Orchestration-Deployment.
Dokument-Grounding für Joule: Standardweg über SAP Build Control Tower + Object Store; Alternativen über das Grounding-Management von AI Core.
Strukturierte Fakten stammen aus BDC-Datenprodukten/Datasphere/HANA; SAP Knowledge Graph liefert die Semantik.
Orchestration-Workflow V1 ist zugunsten von V2 veraltet; die Grounding-Konfiguration ist in beiden gleich.

Begriffe auf dieser Seite

Grounding: Bereitstellung externer, fachlicher oder aktueller Daten an ein generatives Modell zur Anfragezeit, damit es seine Antwort darauf stützt.
RAG: Retrieval-Augmented Generation: Wissen indexieren, je Frage relevante Chunks abrufen und in den Prompt einfügen.
Pipelines-API: Grounding-API von AI Core, die Dokumente aus einem Repository aufnimmt, zerlegt und in einen Vektorspeicher einbettet.
Vector-API: Grounding-API von AI Core, um eigene, bereits zerlegte Inhalte in den Vektorspeicher zu schreiben.
Retrieval-API: Grounding-API von AI Core, die in den indexierten Repositories nach zur Anfrage ähnlichen Inhalten sucht.
max_chunk_count: Suchparameter des Orchestrierungs-Groundings, der die Zahl der in den Prompt übernommenen Chunks begrenzt.
Strukturiertes Grounding: Verankerung in gesteuerten Datensätzen (BDC-Datenprodukte, Datasphere, HANA) statt in Dokument-Chunks.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →

Leitfäden, die mit dieser Seite antworten

Diese Leitfäden nennen diese Seite als eine der Quellen, auf die sich ihre Antwort stützt.

RAG SAP Architekt: Grounding-Kanäle, Grenzen, Prüfung

Offene SAP-Projekte

Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.