Konzeptkarte

Auswahl des Foundation Model — GPT-4o vs. Claude vs. Gemini vs. Llama

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist Auswahl des Foundation Model — GPT-4o vs. Claude vs. Gemini vs. Llama?

Generische Leaderboards (HumanEval, MMLU) sagen die Leistung bei SAP-Aufgaben nicht voraus — der konkrete Befund ist dimensionsspezifisch: Das 1-Mio.-Token-Kontextfenster von Gemini 2.0 Pro gewinnt beim Einlesen eines vollständigen Datasphere-Metadaten-Exports, während die 128K-/200K-Kontextfenster von GPT-4o und Claude bei genau dieser Aufgabe zurückfallen.

Worum es geht

Die Auswahl des Foundation Model ist die wiederkehrende architektonische Entscheidung, vor der jede SAP-KI-Initiative irgendwann steht: welches Large Language Model — GPT-4o und die GPT-5-Familie von OpenAI, Claude von Anthropic, Gemini von Google oder ein Open-Weight-Modell wie Llama oder Mistral — hinter einer gegebenen Joule-Erweiterung, einer BTP-AI-API-Integration oder einer kundenspezifischen Analytics-Funktion stehen soll. Sie ist wichtig, weil die Entscheidung teuer rückgängig zu machen ist: Prompt Engineering, Evaluierungs-Frameworks, Fine-Tuning-Daten und Kostenmodelle sind alle um das Verhalten eines bestimmten Modells herum aufgebaut, und ein späterer Anbieterwechsel bedeutet, all das gegen eine neue Baseline neu zu validieren.

Der Fehler, den die meisten Unternehmensarchitekten machen, ist, dies als Nachschlagen in einem Leaderboard zu behandeln. Allgemeine Benchmarks — Coding-Tests, breite Wissensquiz, Denkaufgaben — messen Fähigkeiten, die nur schwach mit den Aufgaben korrelieren, die SAP-Analytics-Arbeit tatsächlich braucht: typisierte Felder aus einer halbstrukturierten S/4HANA-BAPI-Antwort zu extrahieren, ohne nicht vorhandene Werte zu erfinden, ABAP oder SQLScript zu generieren, das SAP-Namens- und Performance-Konventionen einhält, korrekt über die Metadaten eines Datasphere Analytic Model zu schlussfolgern oder ESRS-konformen Fließtext aus strukturierten ESG-Zahlen zu entwerfen. Ein Modell, das ein allgemeines Leaderboard anführt, kann bei diesen engen, folgenreichen Extraktions- und Generierungsaufgaben trotzdem unterdurchschnittlich abschneiden, und die einzige verlässliche Methode, das herauszufinden, ist eine aufgabenspezifische Evaluierung an echten SAP-Daten vor der Entscheidung.

Warum es zählt

Die strukturierte Datenextraktion aus S/4-BAPI-JSON/XML begünstigt laut einem Praxisleiter-Panel aus Q1 2026 (n=18) GPT-4o und Claude 3.7 Sonnet — nicht die Anbieter-Leaderboards
Nur Llama 3 im EU-Region-Deployment von SAP AI Core erfüllt Art. 44 DSGVO für hochsensible personenbezogene Daten vollständig — die EU-Endpunkte von GPT-4o und Gemini decken nur Standarddaten ab
Die Codegenerierung teilt sich nach Aufgabe: GPT-4o führt bei der ABAP-Generierung, Claude führt beim Long-Context-SQL-Reasoning, Llama 3 70B ist nach Fine-Tuning bei SQLScript konkurrenzfähig

Kernpunkte

Generische Benchmarks (MMLU, HumanEval) sagen die Leistung bei SAP-spezifischen Aufgaben nicht voraus — eigene Evaluierung für ABAP-Generierung, S/4-Extraktion und Datasphere-Metadatenaufgaben durchführen.
GPT-4o: am besten für ABAP-Generierung und strukturierte S/4-Datenextraktion; tiefstes SAP-Fine-Tuning über die Microsoft-Partnerschaft.
Claude 3.7 Sonnet: am besten für Long-Context-SQL-Reasoning und nuanciertes Befolgen von Anweisungen.
Gemini 2.0 Pro: 1-Mio.-Token-Kontextfenster — klarer Spitzenreiter für vollständige InfoProvider-Kataloge oder große CSRD-Offenlegungsanalysen.
Llama 3 70B auf SAP AI Core EU: am besten für EU-Datenresidenz-Compliance und Kosten im großen Maßstab; benötigt Fine-Tuning für SAP-spezifische Aufgaben.
Die Modellauswahl ist eine architektonische Festlegung für 3-5 Jahre; eine Migration bei Minderleistung kostet 6-12 Monate.
Auswahl des Foundation Model — GPT-4o vs. Claude vs. Gemini vs. Llama ist erst beherrscht, wenn sie eine konkret benannte Entscheidung eines Käufers verändert.
Erst das semantische Vertrags- und Kontrollmodell klären, bevor das Tool vorgeführt wird.
Aktuelle Signale aus SAP, Analystenhäusern, Studien, dem Knowledge Graph und den News als Beleg nutzen, nicht als Dekoration.
Verifizierte Fakten von richtungsweisenden Trends und modellierten Annahmen trennen.

Begriffe auf dieser Seite

Foundation Model: Großes, vortrainiertes Modell (LLM oder multimodal), das über Fine-Tuning oder Prompting als universelle Basis für nachgelagerte Unternehmensaufgaben dient.
GPT-4o: Multimodales Flaggschiffmodell von OpenAI (2024); verfügbar über Azure OpenAI Service mit EU-Region-Endpunkten.
Claude 3.7 Sonnet: Flaggschiff-Reasoning-Modell von Anthropic (2025); verfügbar über AWS Bedrock und Azure AI Foundry.
Gemini 2.0 Pro: Flaggschiffmodell von Google mit 1-Mio.-Token-Kontextfenster (2025); verfügbar über Vertex AI mit EU-Region-Deployments.
Llama 3: Open-Weight-LLM-Familie von Meta (2024); self-hostable auf EU-Infrastruktur oder verfügbar über den Modellkatalog von SAP AI Core.
SAP BTP AI API: SAPs verwaltetes API-Gateway für den Zugriff auf Foundation Models auf der Business Technology Platform — bietet einen einheitlichen Endpunkt für mehrere Modelle über SAP AI Core.
Entscheidungsverantwortlicher: Die verantwortliche Person, die den Kompromiss akzeptiert und die nächste Maßnahme finanziert.
Semantischer Vertrag: Die gemeinsame Definition von Geschäftsbegriffen, Kennzahlen, Entitäten und Zugriffsregeln, die von Tools und Teams verwendet wird.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →