Konzeptkarte

Token-Ökonomie

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Token-Ökonomie?

Prompt-Caching ist der größte Kostenhebel, den die meisten SAP-Teams übersehen — ein 2.000-Token-Systemprompt für Joule, der 500-mal am Tag aufgerufen wird, spart rund 2.700 $/Jahr pro Agent — eine reale Einsparung, die sich über 20 Agenten multipliziert.

Token-Ökonomie ist die Disziplin zu verstehen, wie API-Kosten, Latenz und Durchsatz über Modellstufen, Deployment-Modi und Prompt-Design-Entscheidungen hinweg gegeneinander abgewogen werden. Sie ist es, was eine SAP-KI-Integration mit vorhersehbarer, kontrollierter Kostenbasis von einer unterscheidet, die still und leise Budget verbrennt, ohne dass jemand erklären kann, warum die Rechnung so aussieht, wie sie aussieht.

Das Kernproblem

Inferenzkosten sind nichtlinear und hochgradig davon abhängig, wie ein Prompt aufgebaut ist. Dieselbe Geschäftsfrage, gestellt mit einem schlanken, gut strukturierten Fünfhundert-Token-Prompt gegenüber einem aufgeblähten Zehntausend-Token-Prompt, der mit unnötigem Kontext vollgestopft ist, kann sich in den Kosten um eine Größenordnung unterscheiden — und der teurere Aufruf ist nicht automatisch der genauere. Die meisten Teams entdecken dies erst nach der ersten großen Rechnung, denn Token-Kosten sind zur Entwurfszeit unsichtbar und werden erst im Produktivbetrieb sichtbar.

Warum Output mehr kostet als Input

Jeder große Anbieter bepreist Output-Token um ein Vielfaches höher als Input-Token, und der Grund dafür ist architektonisch, nicht kommerziell. Input-Token können über den gesamten Prompt hinweg parallel in einem einzigen Forward-Pass verarbeitet werden. Output-Token können das nicht: Ein Sprachmodell generiert Text autoregressiv, ein Token nach dem anderen, wobei jedes neue Token von jedem zuvor generierten Token abhängt, sodass die Berechnung nicht auf dieselbe Weise gebündelt werden kann. Diese sequenzielle Abhängigkeit ist auch der Grund, warum die Output-Generierung die Latenz dominiert — ein langer Input wird im Verhältnis zu einem langen Output, der Token für Token erzeugt werden muss, nahezu sofort verarbeitet.

Warum es zählt

Output-Token kosten bei allen Anbietern das 3- bis 6-Fache von Input-Token — ein struktureller Grund, generierten Output in hochvolumigen Joule-Abläufen knapp zu halten.
Batch-APIs senken die Kosten um 50 % für alles, was nicht in unter 5 Sekunden gerendert werden muss — nächtliche Berichtsgenerierung und Massen-Vertragszusammenfassung qualifizieren sich; Echtzeit-Joule-Chat nicht.
Selbst gehostetes Llama 3.3 70B zu ~0,009 $/Mio. Token (60 % Auslastung) verändert die Build-vs-Buy-Entscheidung für sehr hochvolumige Workloads.

Kernpunkte

Output-Token kosten das 3- bis 6-Fache von Input-Token — minimieren Sie die Completion-Länge, bevor Sie die Prompt-Länge optimieren.
Prompt-Caching (OpenAI: 50 % Rabatt auf ≥1024-Token-wiederholte Präfixe; Anthropic: 0,30 $/Mio. Lesevorgang vs. 3,00 $/Mio. ungecacht) zahlt sich ab >26 Wiederverwendungen aus.
Selbst gehostetes Llama 3.3 70B auf H100: ~0,009 $/Mio. Token amortisiert gegenüber 2,50 $/Mio. für GPT-4o — 278× günstiger im großen Maßstab.
Gemini 2.0 Flash zu 0,10 $/0,40 $ pro Mio. Token ist Stand Q2 2026 die Kostenfront für hochvolumige Extraktionsaufgaben.
Batch-APIs (OpenAI, Anthropic) bieten 50 % Rabatt für Nicht-Echtzeit-Workloads — einsetzen für die nächtliche SAP-Berichtsgenerierung.
Token-Ökonomie ist erst beherrscht, wenn sie eine benannte Käuferentscheidung verändert.
Beginnen Sie mit dem semantischen Vertrag und dem Kontrollmodell, bevor Sie das Tool vorführen.
Nutzen Sie aktuelle SAP-, Analysten-, Studien-, KG- und News-Signale als Beleg, nicht als Dekoration.
Trennen Sie verifizierte Fakten von richtungsweisenden Trends und modellierten Annahmen.
Definieren Sie Owner, Kennzahl, Schwellenwert, Support-Pfad und Rollback vor der Skalierung.

Begriffe auf dieser Seite

Prompt caching: Anbieterseitiger Mechanismus, der den KV-Cache eines wiederholten Prompt-Präfixes wiederverwendet und einen niedrigeren Leseratensatz berechnet als eine vollständige Neuberechnung.
Batch API: Asynchroner Inferenz-Endpunkt (OpenAI, Anthropic), der bis zu 50.000 Anfragen entgegennimmt, über Nacht verarbeitet und 50 % des synchronen Preises berechnet.
Input token: Ein Token im Prompt (System + Nutzerbeitrag + Tool-Definitionen); wird pro Million zum Input-Satz des Anbieters berechnet.
Output token: Ein vom Modell generiertes Token; wird zum Output-Satz des Anbieters berechnet, typischerweise dem 3- bis 6-Fachen des Input-Satzes.
Token budget: Maximale Anzahl an Token (Prompt + Completion), die ein Modell pro Aufruf verarbeitet; eine Überschreitung löst einen Fehler aus.
Decision owner: Die verantwortliche Person, die den Zielkonflikt akzeptiert und die nächste Maßnahme finanziert.
Semantic contract: Die gemeinsame Definition von Geschäftsbegriffen, Kennzahlen, Entitäten und Zugriffsregeln, die von Tools und Teams verwendet wird.
Control plane: Die Schicht, die Policy, Zugriff, Herkunftsnachweis, Monitoring und Eskalation über das Betriebsmodell hinweg durchsetzt.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →