Kosten-pro-Token-Ökonomie 2026 — Spitzenmodelle vs. offene Gewichte

Worum es geht

Kosten pro Token sind die Einheitsökonomie, die darüber entscheidet, ob ein LLM-gestütztes Feature ein Rundungsfehler auf der Cloud-Rechnung ist oder der Posten, wegen dessen ein Finanzdirektor bei einer Budgetprüfung gezielte Fragen stellt. Jeder produktive Sprachmodell-Workload lässt sich, unabhängig vom Anwendungsfall, letztlich auf wenige miteinander multiplizierte Variablen reduzieren: verbrauchte Tokens pro Aufruf, Aufrufe pro Tag und Preis pro Token — und jede dieser drei Variablen hat sich in den letzten Jahren an verschiedenen Punkten um rund eine Größenordnung verändert, in Richtungen, die nicht immer intuitiv sind.

Warum es zählt

• Reasoning-Modelle erzeugen 5-20× mehr interne Tokens, als sie ausgeben, abgerechnet zu Output-Sätzen — ein Deep-Research-Aufruf, der 500 sichtbare Tokens zurückgibt, kann 8.000 interne Reasoning-Tokens verbrauchen und bei Opus 4.7 (Listenpreis 25 US-Dollar/Mio. Output-Tokens) 0,20 US-Dollar kosten.
• Prompt-Caching ist die größte Stellschraube bei wiederholten Kontextkosten und senkt die Input-Kosten für wiederholte System-Prompts in hochvolumigen RAG-Anwendungen um 80-90 %.
• Self-Hosting von Llama-3.1-70B auf einer einzelnen H100 zu 3 €/Stunde erreicht bei rund 50 % Auslastung Kostenparität mit der Claude-Sonnet-API — darunter bleibt die API günstiger.

Kernpunkte

• Listenpreise der Spitzenmodelle, abgerufen am 2026-09-22 (je M Tokens, In/Out): GPT-5 1,25$/10$ (GPT-5.5 5$/30$); Claude Opus 5.5 4$/20$, Opus 5 und Opus 4.7 5$/25$, Sonnet 5 2$/10$, Haiku 4.5 1$/5$; Gemini 2.5 Pro 1,25$/10$; Cached Input bis zu 90 % Rabatt.
• Mittelklasse (GPT-5 mini, Claude Sonnet, Gemini Flash) bei 0,15-3$/M Input — der richtige Standard für 60-80 % der produktiven Aufrufe.
• Selbst gehostete offene Gewichte bei effektiv 0,20-1,50$/M; verwaltete Endpunkte (Together/Fireworks/Groq) 0,20-0,90$/M.
• Interne Tokens von Reasoning-Modellen (Extended Thinking, Reasoning-Tokens) werden zu Output-Sätzen abgerechnet — 8.000 interne Tokens für eine 500-Token-Antwort = 0,20$/Aufruf bei Opus 4.7.
• Prompt-Caching ist die einzelne größte API-Kosten-Stellschraube: 80-90 % Reduktion bei wiederholten System-Prompts; einsetzen für jeden über Aufrufe hinweg wiederholten RAG-System-Prompt.
• Self-Host-Break-even gegenüber API bei ~50 % Auslastung auf einer einzelnen H100 mit 70B bei TP=8; darunter ist die API pro effektivem Token günstiger.
• Model-Routing (70 % klein / 30 % Spitzenmodell) senkt die Gesamtrechnung um 60-80 % bei vernachlässigbarem Qualitätsverlust, wenn der Router anhand eines Held-out-Eval-Sets kalibriert ist.
• Das SAP-AI-Core-Konsumverbrauchsmodell abstrahiert Anbieter-Listenpreise; die vier Kostentreiber (Prompt-Größe, Output-Länge, Modellstufe, Auslastung) gelten weiterhin für die interne Kostenzuordnung.
• Kostenzuordnung pro Anfrage (Kennzeichnung nach Workflow + Nutzer + Mandant, Ledger-Eintrag, Drift-Alarm) ist die FinOps-Mindestdisziplin vor einem Rollout mit 10.000 Nutzern.
• Ein Joule-Deployment mit 10.000 Nutzern bei 200 Aufrufen/Nutzer/Tag auf Spitzenmodell ohne Caching: ~13 Mio. $/Jahr zum Opus-4.7-Listenpreis (25 $/M Output); Caching plus Routing auf Sonnet 5 senkt das um ein Mehrfaches.

Begriffe auf dieser Seite

Prompt caching

API-Funktion, bei der wiederholte identische Input-Präfixe (System-Prompts, RAG-Kontext) serverseitig gespeichert und zu 10-25 % des Standard-Input-Satzes abgerechnet werden; Anthropics Implementierung bietet ~90 % Rabatt, die von OpenAI ~75 %.

Reasoning tokens

Interne Chain-of-Thought-Tokens, die von Thinking-Modellen erzeugt werden (Claude Extended Thinking, GPT-5-Reasoning, DeepSeek-R1) — zu Output-Sätzen abgerechnet, aber nicht in der sichtbaren Antwort zurückgegeben; können die effektiven Output-Kosten um das 5- bis 20-Fache erhöhen.

Model router

Dienst, der jede Anfrage an das kleinste Modell weiterleitet, von dem erwartet wird, dass es die Qualitätsanforderungen erfüllt; das dominierende Kostensenkungsmuster in produktiven LLM-Stacks — ein gut kalibrierter Router senkt 60-80 % der Ausgaben für Spitzenmodelle bei vernachlässigbarem Qualitätsverlust.

Cost-per-1k-tokens

Branchenüblicher Stückpreis; seit 2024, als die Preise unter 0,01 $/1k fielen, auf Anbieter-Preisseiten meist pro M Tokens (=1000 × pro 1k) angegeben.

SAP AI Core consumption unit

SAPs Abstraktionsschicht über den zugrunde liegenden Modell-API-Kosten auf der BTP; Enterprise-Kunden sehen SAP-gemischte Stückkosten statt Anthropic-/OpenAI-Listenpreise, aber Prompt-Größe, Output-Länge, Modellstufe und Auslastung treiben weiterhin die interne Rechnung.

FinOps for LLM

Operative Disziplin, jeden LLM-API-Aufruf mit Workflow-, Nutzer- und Mandanten-IDs zu kennzeichnen; die Nutzung in ein Abrechnungs-Ledger zu schreiben; Kostenalarme pro Mandant zu setzen; und Model-Routing sowie Prompt-Caching vor dem Go-live als erstklassige architektonische Entscheidungen zu implementieren.

Batch inference pricing

Die meisten Anbieter bieten 50 % Rabatt für asynchrone Batch-Jobs (kein Echtzeit-SLA); geeignet für nächtliche Analytics-Anreicherung, Dokumentklassifikation und Massen-Zusammenfassung — nicht für interaktive Joule-Anfragen.

Token budget controller

System-Prompt-Direktive oder API-Parameter, der die maximale Anzahl an Tokens begrenzt, die ein Modell für internes Reasoning nutzt (z. B. Anthropics effort-Parameter bei aktuellen Claude-Modellen, `budget_tokens` bei älteren); entscheidend für die Kostenvorhersehbarkeit bei Workloads der Opus-Klasse.

Quellen

1. Anthropic — Claude API pricing (checked 2026-09-22)
2. OpenAI — API pricing (checked 2026-09-22)
3. Anthropic — Pricing
4. Google AI — Gemini API Pricing
5. Together AI — Open Model Pricing
6. SAP AI Core — Consumption-Based Pricing
7. Anthropic — Prompt caching documentation (Claude Platform Docs)
8. Groq — official pricing page
9. Fireworks AI — official pricing page
10. Databricks Docs — Mosaic AI Gateway
11. OpenAI — Reasoning models guide (reasoning tokens are additional to input/output tokens and drive cost; vendor documentation)
12. OpenAI — Prompt caching guide (discounted cached input tokens for repeated prefixes; vendor documentation)
13. Anthropic — Extended thinking (thinking tokens billed as output tokens; vendor documentation)
14. Epoch AI — LLM inference price trends (independent research on how price per token has fallen by task level)
15. OpenAI — Batch API guide (discounted asynchronous processing as a cost lever; vendor documentation)