KI- und LLM-Grundlagen für SAP-Berater — Transformer, Tokens, Embeddings, Kontext

Was Sie lernen

• Next-Token-Vorhersage, Transformer und Attention so gut erklären, dass sich die Wirkung der Prompt-Länge auf Kosten, Latenz und Antwortqualität vorhersagen lässt
• Die Tokens eines SAP-Prompts schätzen und dann messen sowie Tokens nach der SAP-Metering-Methode (SAP-Hinweis 3437766) in GenAI Tokens und Capacity Units umrechnen, ohne fiktive Sätze als Preise zu nennen
• Beschreiben, was ein Embedding ist, die Kosinus-Ähnlichkeit in der Vector Engine von HANA Cloud berechnen und begründen, warum eine Vektorspalte nur ein Embedding-Modell verwenden darf
• Kontextfenster, Temperatur und strukturierte Ausgabe bewusst einsetzen, im Wissen, dass Temperatur 0 nicht deterministisch ist und lange Kontexte den Recall verschlechtern
• Für einen SAP-Anwendungsfall zwischen In-Context Learning, RAG und Fine-Tuning wählen und die Wahl mit einer Evaluationsmetrik begründen
• Tool Calling, Agenten, MCP und A2A erklären — einschließlich der Frage, wer eine Aktion in S/4HANA ausführt — und erkennen, wann ein tabellarisches Modell wie SAP-RPT einem LLM überlegen ist

Für wen dieses Modul gedacht ist. Sie bauen seit Jahren BW-Modelle, Datasphere-Spaces oder S/4HANA-Berichte; inzwischen drehen sich die Meetings um Tokens, Embeddings, Grounding und Agenten. Dieses Modul ist die erste Stufe des SAP-AI-Lernpfads dieser Plattform. Es vermittelt Ihnen das Arbeitswissen — exakt, ohne Mystik —, das die folgenden Module voraussetzen: M325 (Generative AI Hub in der Praxis), M326 (Joule-Agenten), M329 (SAP-RPT und TabPFN), M330 (Vektoren und Knowledge Graph in HANA Cloud) und M331 (die C_AIG-Zertifizierung). Jeder Abschnitt endet mit der Konsequenz für ein SAP-Projekt; die drei Übungen funktionieren mit einem Test-Tenant oder auf Papier.

1. Was ein großes Sprachmodell tatsächlich tut

Ein großes Sprachmodell (LLM) ist ein neuronales Netz, das darauf trainiert ist, das nächste Textstück aus dem vorangehenden Text vorherzusagen. Das Glossar von Anthropic beschreibt das Pretraining genau so: Autoregressive Modelle werden „darauf vortrainiert, das nächste Wort aus dem vorherigen Kontext vorherzusagen“. Eine Frage beantworten, ABAP schreiben oder ein Ticket zusammenfassen ist immer dieselbe wiederholte Operation: Eingabe lesen, jedem möglichen nächsten Token eine Wahrscheinlichkeit zuweisen, eines auswählen, anhängen, wiederholen bis zu einer Stoppbedingung.

Voraussetzungen

• Praktische Kenntnis mindestens eines SAP-Datenprodukts (BW/4HANA, Datasphere, S/4HANA Embedded Analytics oder SAP Analytics Cloud)
• Sicherheit im Lesen von JSON und einfachem SQL
• Optional für die praktischen Varianten von Ü1 und Ü2: Zugang zum Generative AI Hub (oder zu dessen 30-tägiger Testversion) und eine HANA-Cloud-Instanz mit aktivierter NLP-Funktion

Lernergebnisse

• Einem Kunden in einfacher Sprache erklären, warum ein LLM flüssig und dennoch falsch sein kann und was Grounding daran ändert.
• Für einen SAP-Anwendungsfall eine Schätzung in Tokens und Capacity Units nach der dokumentierten SAP-Methode erstellen, klar getrennt von jedem Preis.
• Die Retrieval-Seite eines RAG-Anwendungsfalls auf Konzeptebene entwerfen: Embedding-Modell, Ähnlichkeitsmaß, ein Modell pro Spalte, Aktualität und Berechtigungen.
• Für eine gegebene SAP-Anforderung In-Context Learning, RAG, Fine-Tuning, ein Reasoning-Modell oder ein tabellarisches Modell empfehlen, zusammen mit der Evaluation, die die Wahl bestätigen würde.