Konzeptkarte

SAP Model Gateway

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist SAP Model Gateway?

Der eigentliche Wert des Gateways liegt darin, dass eine Änderung der Routing-Regel – ein neues Modell, eine neue Kostenobergrenze – wirksam wird, ohne einen einzigen Joule Skill neu auszurollen, und so die Modellauswahl vollständig von der Anwendungsschicht entkoppelt.

Worum es geht

Das SAP Model Gateway ist die Verkehrssteuerungsschicht, die zwischen jeder SAP-Anwendung, die ein Large Language Model aufrufen kann — Joule, die generativen Funktionen von SAC, das KI-gestützte Modellieren in Datasphere — und den Foundation-Model-Anbietern liegt, die die eigentliche Inferenz durchführen: OpenAI, Anthropic, Google und SAPs eigene feinabgestimmte Modelle. Seine Aufgabe klingt banal und ist tatsächlich eine der folgenreichsten Designentscheidungen der gesamten SAP Business AI Platform: Sie erlaubt es einer Anwendung, „eine Completion auf Qualitätsstufe Premium" anzufragen, statt fest „GPT-4o aufrufen" oder „Claude Opus aufrufen" zu programmieren — sodass sich ändern kann, welches Modell die Anfrage tatsächlich beantwortet (aus Kosten-, Performance- oder Release-Gründen), ohne dass jemand den Joule Skill oder den Agenten-Workflow anfassen muss, der es konsumiert.

Warum es zählt

Kosten werden über getaggte Inferenzaufrufe (App-ID, Skill-ID, Kostenstelle) pro Agenten-Workflow an den verantwortlichen Geschäftsbereich zurückverrechnet
Token-Kontingente pro Anwendung und pro Nutzer verhindern, dass eine außer Kontrolle geratene Agentenschleife das monatliche LLM-Budget der Organisation verbrennt
Automatisches Failover auf ein Fallback-Modell (z. B. Claude Sonnet) bedeutet, dass konsumierende Anwendungen nie eine eigene Retry-Logik benötigen

Kernpunkte

Multi-LLM-Routing: abstrahiert die Modellauswahl von Joule Skills — die Anwendung deklariert eine Qualitätsstufe, das Gateway bestimmt das Modell.
Kostenzuordnung: jeder Inferenzaufruf wird nach Anwendung, Skill, Agenten-Workflow und Kostenstelle getaggt — ermöglicht FinOps-Reporting pro Agent.
Quota-Management: harte Token-Obergrenzen pro Anwendung/Agent/Nutzer — verhindert, dass außer Kontrolle geratene Schleifen das monatliche LLM-Budget aufbrauchen.
Automatisches Failover: Ratenlimit-Fehler beim Primärmodell → das Gateway routet zum Fallback-Modell, ohne dass die Anwendung eigene Retry-Logik benötigt.
Routing-Regeln sind in SAP AI Launchpad konfigurierbar, ohne dass konsumierende Joule Skills neu ausgerollt werden müssen.
FinOps-Muster: hochvolumige, wenig komplexe Schritte von der Premium-Stufe auf ein SAP-feinabgestimmtes Economy-Modell verlagern — 60-80 % Kostenreduktion bei diesen Schritten.
Empfohlene Quota-Konfiguration: tägliche Token-Obergrenze pro Agent beim 3-Fachen des 90.-Perzentil-UAT-Verbrauchs, monatlich überprüft.
Das SAP Model Gateway ist erst dann beherrscht, wenn es eine konkret benannte Kaufentscheidung verändert.
Vor der Tool-Demonstration mit dem semantischen Vertrag und dem Kontrollmodell beginnen.
Aktuelle Signale aus SAP-Quellen, Analystenberichten, Studien, dem Knowledge Graph und News als Beleg nutzen, nicht als Dekoration.

Begriffe auf dieser Seite

Qualitätsstufe: Konfigurationsdimension des Model Gateway, die Modelle nach Leistungsstufe gruppiert (Economy = SAP-feinabgestimmt, schnell, günstig; Standard = kommerzielles Mittelfeld; Premium = GPT-4o, Claude Sonnet, volle Leistungsfähigkeit); Joule Skills fragen eine Stufe an, kein konkret benanntes Modell.
FinOps for AI: Finanzoperative Disziplin, angewendet auf KI-Workloads: Erfassung, Zuordnung und Optimierung der Kosten von LLM-Inferenzaufrufen nach Geschäftsbereich, Anwendung und Agenten-Workflow.
Token-Kontingent: Ein konfigurierbares Limit für die Anzahl der LLM-Input- und -Output-Token, die eine gegebene Anwendung, ein Agent oder ein Nutzer pro Tag/Monat verbrauchen darf; wird vom Model Gateway als harter Stopp durchgesetzt, nicht als weiche Warnung.
Routing-Regel: Ein Bedingungs-Aktions-Paar im Model Gateway: wenn task_type=long_context UND quality_tier=Premium DANN route zu anthropic.claude-37-sonnet; konfigurierbar ohne Neuausrollen.
Entscheidungsverantwortlicher: Die verantwortliche Person, die den Trade-off akzeptiert und die nächste Aktion finanziert.
Semantischer Vertrag: Die gemeinsame Definition von Geschäftsbegriffen, Kennzahlen, Entitäten und Zugriffsregeln, die von Tools und Teams verwendet wird.
Kontrollebene: Die Ebene, die Policy, Zugriff, Lineage, Monitoring und Eskalation über das Betriebsmodell hinweg durchsetzt.
Evidenzgrad: Eine Kennzeichnung, die verifizierte Fakten, richtungsweisende Signale, modellierte Annahmen und Feldbeobachtungen voneinander unterscheidet.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →