KI-Kostenzuordnung in SAP AI Core — Tokens, Capacity Units und Resource Groups

Warum diese Karte neu ausgerichtet wurde

Frühere Fassungen dieser Karte erklärten die KI-Kostenzuordnung über ein „Model Gateway von SAP AI Core“, das jeden Joule- und jeden eigenen LLM-Aufruf messen und pro Szenario abrechnen sollte. Ein Produkt dieses Namens gibt es in der SAP-Dokumentation nicht (Service Guide von SAP AI Core und Dokumentation des Generative AI Hub, September 2026). Die dahinterliegende Frage ist dagegen real und wird von Finanzabteilungen immer häufiger gestellt: Wer hat welche KI verbraucht, und was hat es gekostet? Im SAP-Stack liegt die Antwort an drei Stellen — in der Verbrauchsmessung des Generative AI Hub in SAP AI Core, auf den Seiten „Costs and Usage“ des globalen SAP-BTP-Kontos und in dem Tagging, das Sie selbst ergänzen. Diese Karte erläutert jede Ebene, ihre tatsächliche Granularität und den Punkt, an dem Ihr eigenes Design übernehmen muss.

Warum es zählt

• Die Finanzabteilung wird fragen, welche KI-Funktion die Rechnung getrieben hat; die native Antwort von SAP endet bei der Resource Group — das Zuordnungsdesign muss also vor dem ersten produktiven Deployment stehen.
• Von SAP bereitgestellte KI (AI Units, SAP for Me) und selbst gebaute KI in AI Core (Capacity Units, BTP-Vertrag) werden in unterschiedlichen Währungen und an unterschiedlichen Stellen abgerechnet — eine einzige Zahl „KI-Kosten“, die beides mischt, ist konstruktionsbedingt falsch.
• Budgets alarmieren, stoppen den Verbrauch aber nie, und Ratenlimits begrenzen Anfragen pro Minute, nicht Monatsausgaben: Ausgabensteuerung ist eine Designaufgabe, keine Einstellung.

Kernpunkte

• Ein „SAP Model Gateway“ gibt es nicht; gemessen wird selbst gebaute generative KI im Generative AI Hub von SAP AI Core (Plan „extended“), abgerechnet in SAP BTP.
• Messkette: Eingabe- und Ausgabe-Tokens → GenAI-Tokens zu modellspezifischen Sätzen (SAP-Hinweis 3437766) → Capacity Units (CU); Ausgabe-Tokens sind in der Regel etwas teurer.
• Rechenleistung, Speicher und Baseline entfallen bei generativer KI; Grounding-Speicher und -Abruf, Content Filtering, Data Masking und der Speicher der Inference Observability werden separat gemessen.
• Joule und eingebettete SAP-KI sind eine andere Welt: Base AI oder AI Units, überwacht in SAP for Me (C333), unsichtbar in Ihrem AI-Core-Tenant.
• Native Granularität: globales Konto (abrechenbar) → Verzeichnis/Unterkonto (geschätzt, Labels durchsuchbar) → Resource Group → Zeilen je Modell und Orchestrierung im AI-Core-Usage-Export.
• Pro Szenario, Agent oder Kostenstelle: das usage-Objekt (prompt_tokens, completion_tokens) mit Geschäftskontext protokollieren oder Anfragen mit Inference Observability aufzeichnen (Modus „metadata“, bis zu 16 Labels ext.ai.sap.com).
• Steuerung: BTP-Budgets (höchstens 30 aktive, 3 Schwellenwerte, nur Alarm), RPM-Ratenlimits je Modell/Tenant oder Resource Group, Allow-Listen für Modelle, Batch Consumption für native LLM-Massenaufrufe.
• Eine Label-basierte Schätzung wird über Trends und Anteile abgeglichen; rechtsverbindlich bleibt der monatliche Saldenauszug.

Begriffe auf dieser Seite

GenAI-Token

Virtuelle Einheit, die die Eingabe- und Ausgabe-Tokens eines Modells zu modellspezifischen Sätzen (SAP-Hinweis 3437766) umrechnet, bevor sie in Capacity Units umgerechnet werden.

Capacity Unit (CU)

Abrechnungsmetrik von SAP BTP; AI Core rechnet GenAI-Tokens und Modulmetriken in CU um.

Resource Group

Isolationseinheit innerhalb eines AI-Core-Tenants; die feinste Granularität, in der SAP den AI-Core-Verbrauch im Usage-Export ausweist.

Seite „Costs and Usage“

Seite des globalen Kontos im BTP Cockpit mit den Registerkarten Overview, Billing, Usage und Budgets; Werte für Unterkonten und Verzeichnisse sind Schätzungen.

Inference Observability

Optionale Aufzeichnung gekennzeichneter Anfragen an den Generative AI Hub (Metadaten oder vollständige Nutzlast) mit Labels und Feedback; seit 8. Mai 2026 allgemein verfügbar.

Inferenz-Label

Schlüssel-Wert-Paar mit dem Präfix ext.ai.sap.com an einem Inferenzdatensatz (max. 16, je 64 Zeichen) für spätere Filterung.

AI Units

Gepoolte Währung von SAP Business AI für von SAP bereitgestellte Premium-KI wie Joule-Agenten, überwacht in SAP for Me — nicht Teil der AI-Core-Abrechnung.

Quellen

1. SAP AI Core service guide — metering and pricing, consumption information (PDF, 4 Sep 2026)
2. SAP AI Core — Metering and Pricing for Generative AI (SAP-docs)
3. SAP AI Core — Inference Observability (SAP-docs)
4. SAP AI Core — Record an Inference in Inference Observability (SAP-docs)
5. SAP AI Core — Rate Limit Management (SAP-docs)
6. SAP AI Core — Batch Consumption (SAP-docs)
7. SAP AI Core — Prompt Caching (SAP-docs)
8. SAP BTP — Monitoring Usage and Consumption Costs in Your Global Account (SAP-docs)
9. SAP BTP — Managing Budgets in Your Global Account (SAP-docs)
10. SAP AI Core — What's New (SAP-docs)
11. SAP Learning — Introducing Joule: Understanding the Commercial Model (Base AI, AI Units)
12. SAP-docs — Resource Groups (SAP AI Core, the isolation unit used for cost attribution)
13. SAP — ai-sdk-js release v2.16.0 (model list change, Mistral Large removal dated 30 Sep 2026)
14. SAP — ai-sdk-js release v2.13.0 (gpt-4.1, o3, o4-mini, claude-4-sonnet retirement dates in October 2026)