LLMs auf Unternehmensdaten: Generative AI Hub, BDC und SAP Databricks
Stand
LLMs auf SAP-Daten sind ein Architekturproblem, keine Modellwahl. SAP liefert vier Wege: den Generative AI Hub in SAP AI Core (Extended-Plan; Modellbibliothek und ein Orchestrierungsservice mit Templating, Grounding, Datenmaskierung, Content-Filter, Übersetzung und strukturierter Ausgabe); SAP Business Data Cloud mit SAP HANA Cloud (Vector und Knowledge Graph Engine, „die KI-Datenbank“ von BDC) und SAP Databricks (Datenprodukte ohne Kopie per Delta Sharing geteilt); Joule und Joule-Studio-Agenten für Endanwender; sowie tabellennative Modelle (SAP-RPT-1.6, TabPFN-3.5 Plus) für Vorhersagen, die ein LLM nicht treffen sollte. Produktionsqualität entsteht durch semantische Metadaten, Werkzeugaufrufe für exakte Werte, Zitate, SQL-Sandboxing, Maskierung und ein vom Fachbereich verantwortetes Referenzset.
Was Sie lernen
- Sechs reale KI-Anwendungsfälle dem richtigen SAP-Weg zuordnen (Generative AI Hub, BDC mit SAP HANA Cloud oder SAP Databricks, Joule/Joule Studio, SAP-RPT oder TabPFN) – jeweils mit einer fünfzeiligen schriftlichen Begründung.
- Eine Orchestrierungskonfiguration im Generative AI Hub mit Templating, Document Grounding, Maskierung per SAP Data Privacy Integration und Content-Filter bauen und die Maskierung an einem Test-Prompt nachweisen.
- Den Datenpfad je Frage wählen – Werkzeugaufruf, Document Grounding, HANA-Cloud-Retrieval oder SAP-Databricks-Batch – und die Folgen für Berechtigungen erklären.
- Ausgabekontrollen umsetzen: für Natural-Language-to-SQL (Sandbox, Objekt-Whitelist, Ergebnisprüfung) und für generierten Text (Prüfung Zahl für Zahl).
- Ein vom Fachbereich verantwortetes Referenzset und die Regressionsregel definieren, die es bei jeder Änderung an Modell, Prompt, Retrieval oder Daten erneut ausführt.
Modulüberblick
Ein großes Sprachmodell (LLM) auf SAP-Daten zu setzen, ist keine Frage der Modellauswahl. Jede ernsthafte Einführung muss dieselben vier Fragen beantworten: Wo läuft das Modell und unter welchem Vertrag, wie erhält es im richtigen Moment den richtigen Geschäftskontext, was hindert es daran, Daten preiszugeben oder zu erfinden, und wer prüft die Ausgabe, bevor eine Entscheidung fällt? SAP liefert inzwischen auf jede dieser Fragen eine konkrete Antwort – verteilt auf den Generative AI Hub in SAP AI Core, SAP Business Data Cloud (BDC) mit SAP HANA Cloud und SAP Databricks sowie Joule. Dieses Modul ordnet diese Wege ein, zeigt, wie auf jedem gebaut wird, und vermittelt die Kontrollen, die aus einer Demo ein Produktivsystem machen.
Voraussetzungen
- Praktische Erfahrung mit SAP BTP und SAP Datasphere oder SAP Business Data Cloud
- Zuerst die Kernkonzepte wiederholen: C027, C203, C087
- Empfohlen: Modul M053 (SAP AI Core & AI Launchpad)
Lernergebnisse
- Einem Sponsor erklären, warum Datenpfad, Kontrollen und Evaluierung vor der Modellwahl kommen.
- Den Generative AI Hub und seine Orchestrierungsmodule über SAP AI Launchpad oder das SAP Cloud SDK for AI bedienen.
- SAP Databricks, SAP HANA Cloud und den Generative AI Hub als komplementäre Teile einer Architektur positionieren.
- Tabellarische Vorhersagen an SAP-RPT oder TabPFN verweisen und das LLM nur zur Erklärung nutzen.
- Ein vom Datenschutzbeauftragten und dem Fachverantwortlichen unterschriebenes Evaluierungs- und Betriebsmodell übergeben.
Vollständiges Modul für Mitglieder. Das vollständige Modul ergänzt: den Entscheidungsrahmen · das durchgehende Szenario · die KPI-Scorecard · die Anti-Muster · die Codeblöcke · die Wissenskontrolle · die Schemata.
Offene SAP-Projekte
Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.