LLM-Kostenengineering — AI Units, Token-Budgets, Caching
Stand
SAP bepreist generative KI über zwei Währungen, die niemals vermischt werden dürfen: Capacity Units, aus Tokens über ein modellspezifisches, in SAP-Hinweis 3437766 veröffentlichtes GenAI-Token-Verhältnis umgerechnet, und AI Units, SAPs einzige virtuelle Währung für Premium AI — autonome Agenten zu 0,02 AI Units je Standard-Aktion und 0,05 je Advanced-Aktion, SAP Joule for Consultants zu 35 AI Units und bis zu 22.900 gepoolten Anfragen pro Nutzer und Monat. Dieses Modul folgt SAPs eigener Dokumentation zu Rate Limits und Prompt Caching in AI Core, um die Gegenmaßnahmen-Sequenz für einen 429-Rate-Limit-Fehler, die explizite cache_control-Platzierung und ihre Unterschiede zwischen Claude und Nova sowie die Usage-Felder (cached_tokens, cache_creation_tokens) zu behandeln, die beweisen, dass eine Caching-Strategie tatsächlich funktioniert hat, und die Governance-Disziplin eines Token-Budgets pro Funktion, gesetzt aus gemessener Nutzung mit einem aussagekräftigen Alarmschwellenwert. Es schließt mit einer Fünf-Schritte-Sequenz zum Aufbau eines datierten, belegten Kostenfalls statt einer ängstlichen Vermutung. Drei Übungen und eine Selbsttest bedingen den Übergang zu „Generative KI auf SAP-Daten evaluieren — ein Evaluationsharnisch aufbauen“.
Was Sie lernen
- SAPs zwei Kostenwährungen unterscheiden — Capacity Units für den Generative AI Hub und AI Units für Premium Business AI — und eine Workload korrekt zuordnen, ohne sie zu vermischen
- SAPs eigene veröffentlichte AI-Units-Zahlen (0,02 AI Units je Standard-Aktion und 0,05 je Advanced-Aktion; 35 AI Units und bis zu 22.900 gepoolte Anfragen pro Nutzer und Monat für Joule for Consultants) exakt und datiert zitieren
- Erklären, wie Rate Limits des Generative AI Hub funktionieren (RPM, Resource-Group- vs. Tenant-Geltungsbereich, der Quota-Erhöhungsprozess) und die richtige Gegenmaßnahmen-Sequenz bei Überschreitung anwenden
- Eine explizite Prompt-Caching-Strategie entwerfen — korrekte cache_control-Platzierung, TTL-Wahl, Unterschiede zwischen den Modellfamilien Claude und Nova — und ihre Ersparnis aus cached_tokens und cache_creation_tokens verifizieren
- Ein Token-Budget pro Funktion setzen und steuern, basierend auf gemessener Nutzung mit einem Alarmschwellenwert, nicht einer tenant-weiten Vermutung
- Einen datierten, belegten Kostenfall für eine Kundenmission aufbauen, der Capacity Units und AI Units niemals vermischt
Modulüberblick
Für wen dieses Modul gedacht ist. „KI- und LLM-Grundlagen für SAP-Berater — Transformer, Tokens, Embeddings, Kontext“ hat die Mess-Kette von SAP eingeführt — Tokens zu GenAI-Tokens zu Capacity Units — und davor gewarnt, das fiktive Rechenbeispiel von SAP als Preis zu zitieren. Dieses Modul geht weiter: Es trennt die zwei tatsächlich verschiedenen Kostenwährungen (Capacity Units für den Generative AI Hub, AI Units für Premium Business AI) und gibt Ihnen die drei Hebel, die eine Kostenzeile tatsächlich bewegen — Rate Limits, Prompt Caching, und schlicht zu wissen, in welcher Währung Sie überhaupt ausgeben.
Voraussetzungen
- KI- und LLM-Grundlagen — dieses Modul baut direkt auf dessen Kette Tokens-zu-GenAI-Tokens-zu-Capacity-Units und auf SAP-Hinweis 3437766 auf
- Grundlegende Vertrautheit mit der Request-Struktur des Orchestration Service (module_configurations, prompt_templating)
- Optional: Zugang zum Generative AI Hub, um E1-E2 an echten Nutzungsdaten statt auf Papier durchzuführen
Lernergebnisse
- Jede Workload generativer KI korrekt Capacity Units oder AI Units zuordnen, bevor ihre Kosten geschätzt werden
- Einen rate-limit-bewussten Deployment-Plan erstellen, der die Gegenmaßnahmen-Sequenz und den Quota-Erhöhungs-Vorlauf benennt
- Eine Prompt-Caching-Konfiguration entwerfen und verifizieren, die die Kosten messbar senkt, nicht nur eine Konfiguration, die richtig aussieht
- Ein Token-Budget pro Funktion mit einer gemessenen Basislinie und einem aussagekräftigen Alarmschwellenwert setzen
Vollständiges Modul im Consultant-Tarif — 19,90 €/Monat. Das vollständige Modul ergänzt: den Entscheidungsrahmen · das durchgehende Szenario · die KPI-Scorecard · die Anti-Muster · die Codeblöcke · die Wissenskontrolle · die Schemata.
Passende Leitfäden
Diese Leitfäden nennen diese Seite als Quelle.
Offene SAP-Projekte
Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.