Économie du Coût par Token 2026 — Frontière vs Open-Weights

De quoi il s'agit

Le coût par token constitue l'économie unitaire qui détermine si une fonctionnalité alimentée par un LLM restera une ligne négligeable sur la facture cloud, ou deviendra le poste qui pousse un directeur financier à poser des questions pointues lors d'une revue budgétaire. Toute charge de travail en production reposant sur un modèle de langage, quel que soit le cas d'usage, se ramène en dernière analyse à un petit nombre de variables multipliées entre elles : les tokens consommés par appel, le nombre d'appels par jour, et le prix par token — et chacune de ces trois variables a évolué d'à peu près un ordre de grandeur à différents moments au cours des dernières années, dans des directions qui ne sont pas toujours intuitives.

Pourquoi c'est important

• Les modèles de raisonnement génèrent 5-20× plus de tokens internes qu'ils n'en émettent, facturés au tarif de sortie — une tâche de recherche approfondie retournant 500 tokens visibles peut consommer 8 000 tokens de raisonnement internes, coûtant 0,20 $ sur Opus 4.7 au tarif catalogue de 25 $/M en sortie.
• La mise en cache des prompts est le plus gros levier sur le coût de contexte répété, réduisant de 80-90 % le coût d'entrée des prompts système répétés dans les applications RAG à haut volume.
• Auto-héberger Llama-3.1-70B sur un seul H100 à 3 €/h atteint la parité de coût avec l'API Claude Sonnet à environ 50 % d'utilisation — en dessous, l'API reste moins chère.

Points clés

• Prix catalogue frontière relevés le 2026-09-22 (par M tokens, entrée/sortie) : GPT-5 1,25 $/10 $ (GPT-5.5 5 $/30 $) ; Claude Opus 5.5 4 $/20 $, Opus 5 et Opus 4.7 5 $/25 $, Sonnet 5 2 $/10 $, Haiku 4.5 1 $/5 $ ; Gemini 2.5 Pro 1,25 $/10 $ ; entrée en cache jusqu’à -90 %.
• Intermédiaires (GPT-5 mini, Claude Sonnet, Gemini Flash) à 0,15-3 $/M en entrée — le bon défaut pour 60-80% des appels en production.
• Open-weights auto-hébergés à 0,20-1,50 $/M effectif ; endpoints managés (Together/Fireworks/Groq) à 0,20-0,90 $/M.
• Tokens internes des modèles de raisonnement facturés au tarif sortie — 8 000 tokens internes pour une réponse de 500 tokens = 0,20 $/appel sur Opus 4.7.
• La mise en cache est le levier de coût API le plus important : 80-90% de réduction sur les prompts système répétés.
• Rentabilité auto-hébergement vs API à ~50% d'utilisation sur un H100 unique servant 70B à TP=8 ; en dessous, l'API est moins chère.
• Routage de modèle (70% petit / 30% frontière) réduit la facture totale de 60-80% avec une perte de qualité négligeable.
• Le modèle de consommation SAP AI Core abstrait les prix de liste des fournisseurs ; les quatre moteurs de coût s'appliquent à l'allocation interne.
• Attribution de coût par requête (tag par workflow + utilisateur + tenant, registre, alerte de dérive) est le minimum FinOps avant un déploiement 10k utilisateurs.
• Un déploiement Joule 10k utilisateurs à 200 appels/jour sans cache sur frontière : ~13 M$/an au tarif Opus 4.7 (25 $/M en sortie) ; le cache et le routage vers Sonnet 5 divisent ce coût par plusieurs fois.

Termes employés sur cette page

Prompt caching

Fonctionnalité d'API où les préfixes d'entrée identiques répétés (system prompts, contexte RAG) sont stockés côté serveur et facturés à 10-25 % du tarif d'entrée standard ; l'implémentation d'Anthropic offre ~90 % de remise, celle d'OpenAI ~75 %.

Reasoning tokens

Tokens internes de chaîne de raisonnement générés par les modèles de réflexion (extended thinking de Claude, raisonnement de GPT-5, DeepSeek-R1) — facturés aux tarifs de sortie mais non renvoyés dans la réponse visible ; peuvent multiplier le coût de sortie effectif par 5-20×.

Model router

Service qui aiguille chaque requête vers le plus petit modèle censé satisfaire les exigences de qualité ; le modèle dominant de réduction des coûts dans les stacks LLM en production — un routeur bien calibré supprime 60-80 % des dépenses de modèle frontière avec une perte de qualité négligeable.

Cost-per-1k-tokens

Prix unitaire standard du secteur ; couramment exprimé par M de tokens (=1000 × par-1k) sur les pages tarifaires des fournisseurs depuis 2024, les prix étant tombés sous 0,01 $/1k.

SAP AI Core consumption unit

La couche d'abstraction de SAP au-dessus des coûts d'API des modèles sous-jacents sur BTP ; les clients entreprise voient des coûts unitaires mixtes SAP plutôt que les tarifs catalogue d'Anthropic/OpenAI, mais la taille du prompt, la longueur de sortie, le tier du modèle et l'utilisation pilotent toujours la facture interne.

FinOps for LLM

Discipline opérationnelle consistant à taguer chaque appel d'API LLM avec des identifiants de workflow, d'utilisateur et de tenant ; à écrire l'usage dans un registre de facturation ; à définir des alertes de coût par tenant ; et à implémenter le routage de modèles et le prompt caching comme des choix architecturaux de premier ordre avant la mise en production.

Batch inference pricing

La plupart des fournisseurs offrent 50 % de remise pour les jobs batch asynchrones (sans SLA temps réel) ; adapté à l'enrichissement analytique nocturne, à la classification de documents et à la synthèse en masse — pas aux requêtes Joule interactives.

Token budget controller

Directive de system prompt ou paramètre d'API qui plafonne le nombre maximal de tokens qu'un modèle utilise pour son raisonnement interne (p. ex. le paramètre effort d'Anthropic sur les modèles Claude actuels, `budget_tokens` sur les plus anciens) ; critique pour la prévisibilité des coûts sur les charges de classe Opus.

Sources

1. Anthropic — Claude API pricing (checked 2026-09-22)
2. OpenAI — API pricing (checked 2026-09-22)
3. Anthropic — Pricing
4. Google AI — Gemini API Pricing
5. Together AI — Open Model Pricing
6. SAP AI Core — Consumption-Based Pricing
7. Anthropic — Prompt caching documentation (Claude Platform Docs)
8. Groq — official pricing page
9. Fireworks AI — official pricing page
10. Databricks Docs — Mosaic AI Gateway
11. OpenAI — Reasoning models guide (reasoning tokens are additional to input/output tokens and drive cost; vendor documentation)
12. OpenAI — Prompt caching guide (discounted cached input tokens for repeated prefixes; vendor documentation)
13. Anthropic — Extended thinking (thinking tokens billed as output tokens; vendor documentation)
14. Epoch AI — LLM inference price trends (independent research on how price per token has fallen by task level)
15. OpenAI — Batch API guide (discounted asynchronous processing as a cost lever; vendor documentation)