KI- und LLM-Grundlagen für SAP-Berater — Transformer, Tokens, Embeddings, Kontext
Stand
Erste Stufe des SAP-AI-Lernpfads für erfahrene SAP-Datenberater ohne KI-Vorkenntnisse. Das Modul erklärt exakt und ohne überflüssige Formeln, was der restliche Pfad voraussetzt: Next-Token-Vorhersage und die Attention des Transformers; Tokens als Einheit für Grenzen und Kosten sowie die SAP-Metering-Kette Tokens → GenAI Tokens → Capacity Units (SAP-Hinweis 3437766); Embeddings und Kosinus-Ähnlichkeit in der Vector Engine von HANA Cloud; Kontextfenster und Context Rot; Temperatur und Nicht-Determinismus; Halluzination, Grounding und RAG; In-Context Learning, RAG oder Fine-Tuning; Reasoning-Modelle; Tool Calling, Agenten, MCP und A2A; tabellarische SAP-RPT-Modelle im Vergleich zu LLMs; und Evaluation. Drei Übungen (Tokens zählen, Embeddings vergleichen, RAG oder Fine-Tuning für drei SAP-Fälle wählen) und eine Selbsteinschätzung entscheiden über den Übergang zu M325.
Was Sie lernen
- Die Tokens eines deutschen SAP-Ticket-Prompts schätzen, mit getTokenUsage() im SAP Cloud SDK for AI messen und die Abweichung erklären
- Gemessene Tokens nach der Metering-Methode von SAP in GenAI-Tokens und Capacity Units umrechnen und fiktive Sätze als „nur Methode“ kennzeichnen
- COSINE_SIMILARITY mit VECTOR_EMBEDDING in SAP HANA Cloud berechnen und begründen, warum eine Vektorspalte nur ein Embedding-Modell verwenden darf
- Für einen SAP-Fall zwischen In-Context Learning, RAG, Fine-Tuning, Reasoning-Modell und tabellarischem Modell wählen und die Wahl mit einer Metrik begründen
- Eine Tool-Definition (name, description, input_schema) spezifizieren und erklären, wer den Aufruf unter welcher Identität ausführt
- Ein Referenzset mit 30 Fällen, Schwellen und namentlicher Freigabe aufbauen, bevor eine Demo als Zusage präsentiert wird
Modulüberblick
Für wen dieses Modul ist. Sie bauen seit Jahren BW-Modelle, Datasphere-Spaces oder S/4HANA-Berichte, und in Projektrunden fallen jetzt Begriffe wie Token, Embedding, Grounding und Agent. Nach diesem Modul können Sie auf einem Kundenprojekt fünf Dinge tun: abschätzen, was ein Prompt kostet, bevor ihn jemand baut; prüfen, dass eine Vektorsuche Gleiches mit Gleichem vergleicht; zwischen Prompting, Retrieval und Fine-Tuning mit schriftlicher Begründung wählen; erklären, wer einen Tool-Aufruf ausführt; und einen Test mit 30 Fragen durchführen, bevor aus einer Demo eine Zusage wird. Zwei davon lassen sich mit den Labs in Kapitel 4 messen (30 Minuten). Die nächsten Module setzen dieses Vokabular voraus: M325 (Generative AI Hub praktisch), M326 (Joule-Agenten), M329 (SAP-RPT und TabPFN), M330 (HANA-Cloud-Vektoren) und M331 (die Zertifizierung C_AIG).
Quelle: SAP Help — HANA Cloud Vector Engine: similarity measures
Voraussetzungen
- Praktische Kenntnis mindestens eines SAP-Datenprodukts (BW/4HANA, Datasphere, S/4HANA Embedded Analytics oder SAP Analytics Cloud)
- Sicherheit im Lesen von JSON und einfachem SQL
- Optional für die praktischen Varianten von Ü1 und Ü2: Zugang zum Generative AI Hub (oder zu dessen 30-tägiger Testversion) und eine HANA-Cloud-Instanz mit aktivierter NLP-Funktion
Lernergebnisse
- Einem Kunden in einfacher Sprache erklären, warum ein LLM flüssig und dennoch falsch sein kann und was Grounding daran ändert.
- Für einen SAP-Anwendungsfall eine Schätzung in Tokens und Capacity Units nach der dokumentierten SAP-Methode erstellen, klar getrennt von jedem Preis.
- Die Retrieval-Seite eines RAG-Anwendungsfalls auf Konzeptebene entwerfen: Embedding-Modell, Ähnlichkeitsmaß, ein Modell pro Spalte, Aktualität und Berechtigungen.
- Für eine gegebene SAP-Anforderung In-Context Learning, RAG, Fine-Tuning, ein Reasoning-Modell oder ein tabellarisches Modell empfehlen, zusammen mit der Evaluation, die die Wahl bestätigen würde.
Offene SAP-Projekte
Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.