Konzeptkarte

Reasoning-Modelle — Claude Extended Thinking, GPT-o4, Gemini Thinking

Stand 5. Oktober 2026

Redaktion: Cédric Mary, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Reasoning-Modelle?

Reasoning-Modelle wenden pro schwieriger Anfrage über eine interne Gedankenkette (Chain-of-Thought) das 10- bis 100-Fache an Inferenz-Rechenleistung auf, und die richtige Architektur leitet nur die 5-15 % der tatsächlich schwierigen Agenten-Aufrufe an sie weiter, nicht jeden Aufruf.

Worum es geht

Reasoning-Modelle sind der architektonische Wendepunkt von 2026, den der Stanford HAI AI Index 2026 als technisches Fundament der Agentic-AI-Kategorie dokumentiert. Sie unterscheiden sich von Baseline-LLMs in einer entscheidenden Achse: Zur Inferenzzeit wenden sie zusätzliche Rechenleistung auf eine interne Gedankenkette (Chain-of-Thought) an, bevor sie die endgültige Antwort erzeugen — das „Denken“ des Modells ist selbst ein Rechenschritt, kein bloßer Prompt-Engineering-Trick. Die drei produktionsreifen Varianten im Jahr 2026 sind Anthropics Claude Extended Thinking, OpenAIs GPT-o4 und Googles Gemini Thinking.

Der Mechanismus ist variable Rechenleistung zur Inferenzzeit. Während ein Baseline-LLM einen Token-Strom in annähernd konstanter Zeit pro Token erzeugt, kann ein Reasoning-Modell bei einem schwierigen Problem das 10- bis 100-Fache an Inferenz-Rechenleistung aufwenden, bevor es die endgültige Antwort ausgibt, indem es eine interne Reasoning-Spur erzeugt (sichtbar oder verborgen, je nach Richtlinie des Anbieters), die das Modell nutzt, um seine Schlussfolgerung zu verfeinern. Die Benchmark-Signatur ist unverkennbar: Bei GPQA Diamond erreichen Reasoning-Modelle 70-85 % gegenüber 40-50 % Baseline; bei Wettbewerbsmathematik (AIME, IMO-Teilmengen) überschreiten Reasoning-Modelle Schwellenwerte, die Baseline-Modelle bei keiner Prompt-Länge erreichen können.

Warum es zählt

Die Benchmark-Signatur ist unverkennbar: GPQA Diamond springt von 40-50 % Baseline auf 70-85 % mit aktiviertem Reasoning, und Reasoning-Modelle überschreiten Wettbewerbsmathematik-Schwellenwerte, die Baseline-Modelle nie erreichen.
Die Kosten sind real — 30-120 Sekunden pro schwieriger Antwort gegenüber 2-5 Sekunden bei einem Baseline-LLM, und 5- bis 20-fach höhere Token-Kosten pro Anfrage.
Jeder Anbieter liefert eine eigene Variante in ein eigenes Produkt: Claude Extended Thinking (sichtbare Spuren, SAPs autonome Supply-Chain-Agenten), GPT-o4 (standardmäßig verborgen, Microsoft Copilot Studio), Gemini Thinking (sichtbar, Databricks Mosaic AI).

Kernpunkte

Reasoning-Modelle wenden variable Rechenleistung zur Inferenzzeit auf eine interne Gedankenkette an, bevor sie antworten — der architektonische Wendepunkt von 2026 laut Stanford HAI AI Index 2026.
Benchmark-Signatur bei GPQA Diamond — 70-85 % mit Reasoning gegenüber 40-50 % Baseline (gegenüber einer GPT-4-Baseline von 39 % im ursprünglichen GPQA-Papier von 2023); die Lücke ist die kanonische Kennzahl für den „Wert des Reasoning-Modus“.
Drei Anbieterfamilien — Claude Extended Thinking (Anthropic, sichtbare Spuren, von SAP für Supply-Chain-Agenten genutzt) · OpenAIs aktuelle Reasoning-Stufe (standardmäßig verborgen, optionale Zusammenfassungen, Namensgebung im Wandel — vor dem Zitieren auf developers.openai.com prüfen) · Gemini mit konfigurierbarem thinking_level-Parameter (Google, Vertex AI, Databricks Mosaic AI).
Abwägung — 30-120 s Latenz gegenüber 2-5 s Baseline · 5- bis 20-fache Kosten pro Anfrage, abgerechnet als Generative-AI-Hub-Token-Verbrauch, NICHT durch SAPs pauschale 0,02-AI-Units-pro-Aktion-Zahl für SAP-gelieferte Agenten abgedeckt.
Spur-Sichtbarkeit ist eine Governance-Achse, kein bloßes UX-Detail — Claude und Gemini legen eine sichtbare/zusammengefasste Spur offen, OpenAIs Stufe hält sie standardmäßig verborgen; das ist für die technischen Dokumentationspflichten nach Art. 6/Anhang III des EU AI Act relevant (02.12.2027).
Hybrides Routing-Muster — Joule Studio 2.0 (Juni 2026) routet automatisch zwischen Reasoning und Baseline; die Architekturentscheidung, die ein Berater gegenüber dem CFO des Kunden und, getrennt davon, gegenüber dessen Compliance-Team verteidigt.
Nur die 5-15 % der wirklich schwierigen Agenten-Aufrufe rechtfertigen den Reasoning-Modus; ein günstiger Komplexitätsklassifikator vor der Routing-Entscheidung, instrumentiert und gegen menschliche Urteile überprüft, ist das praktische Umsetzungsmuster.

Begriffe auf dieser Seite

Extended Thinking: Anthropics Bezeichnung für den Modus variabler Rechenleistung zur Inferenzzeit bei Claude, bei dem das Modell vor der endgültigen Antwort eine sichtbare Chain-of-Thought-Spur erzeugt; der Thinking-Budget-Parameter ist vom aufrufenden Agenten steuerbar.
OpenAI-Reasoning-Stufe: OpenAIs aktuelle Reasoning-Modell-Stufe (laut developers.openai.com, geprüft am 27.09.2026); Reasoning-Tokens sind standardmäßig verborgen und werden als Output-Tokens abgerechnet, mit einem optionalen `summary`-Parameter und Reasoning-Aufwandsstufen bis „xhigh“/„max“. Die Namensgebung hat sich seit der o-Serie bereits einmal geändert; den aktuellen Modellnamen vor dem Zitieren in einem Angebot prüfen.
Gemini thinking_level: Googles konfigurierbarer Reasoning-Aufwandsparameter (low/medium/high), verfügbar bei Gemini-3.x- und 2.5-Serien-Modellen (laut ai.google.dev, geprüft am 27.09.2026); legt über `thought`-Schritte mit optionaler Zusammenfassung eine teilweise sichtbare Reasoning-Spur offen; die Preisgestaltung kombiniert Output- und Thinking-Tokens.
Hybrides Routing: Das architektonische Muster, bei dem eine Agentenplattform jeden Aufruf zwischen einem Reasoning-Modell (5-15 % schwieriger Fragen) und einem Baseline-LLM (85 % Routine) routet, um Genauigkeit, Latenz und Kosten auszubalancieren; Joule Studio 2.0 (Juni 2026) implementiert dies nativ.
Reasoning-Tokens: Die zusätzlichen Tokens, die ein Reasoning-Modell intern erzeugt, bevor es seine sichtbare Antwort ausgibt; bei allen drei Anbieterfamilien als Output-Tokens abgerechnet — der mechanische Grund, warum der Reasoning-Modus pro Anfrage deutlich teurer ist als ein Baseline-Aufruf.
Governance der Spur-Sichtbarkeit: Die Unterscheidung zwischen einer standardmäßig sichtbaren/zusammengefassten Gedankenkette eines Modells (Claude, Gemini) und einer standardmäßig verborgenen mit nur einer optionalen Zusammenfassung (OpenAIs aktuelle Stufe); relevant dafür, ob eine Reasoning-Spur als technischer Dokumentationsnachweis nach den Pflichten aus Art. 6/Anhang III des EU AI Act dienen kann.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →

Offene SAP-Projekte

Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.