Konzeptkarte

LangChain / LlamaIndex / Mosaic AI vs. MCP — Framework vs. Protokoll

Stand 2026-07-24T14:00:00Z

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist LangChain / LlamaIndex / Mosaic AI vs. MCP — Framework vs. Protokoll?

Ein Agenten-Framework (LangChain, LlamaIndex, Mosaic AI) mit einem Protokoll (MCP) zu verwechseln, ist 2026 der häufigste Fehler bei Agenten-Architekturen — die Wahl des Frameworks lässt sich in Wochen rückgängig machen, die Wahl des Protokolls für den Tool-Katalog nicht.

Was dieser Vergleich tatsächlich ist

LangChain (entstanden im Oktober 2022 in Python und JavaScript), LlamaIndex (ursprünglich GPT-Index, gestartet im Januar 2023) und das Databricks Mosaic AI Agent Framework (im Juni 2024 von Databricks übernommen, ab Oktober 2024 auf der Databricks-Plattform generell verfügbar) sind Agenten-Applikations-Frameworks: meinungsstarke Software-Development-Kits, die Tool-Calling, Prompt-Orchestrierung, Memory, Retrieval, Evaluation und Tracing in einer Entwickleroberfläche bündeln. Das Model Context Protocol (MCP) ist etwas kategorial anderes — ein Wire-Protokoll, ein Vertrag zwischen einem Agenten und einem Katalog von Tools, ohne jede Meinung darüber, wie der Agent selbst gebaut ist. Diese als konkurrierende Wahlmöglichkeiten zu behandeln ist der mit Abstand häufigste Architekturfehler in Agenten-Projekten, weil die Frage „Framework oder Protokoll?" gar keine echte Wahl ist — man braucht beides, und sie operieren auf unterschiedlichen Schichten des Stacks.

Warum es zählt

LangChain gegen LlamaIndex auszutauschen kostet bei einem mittelgroßen Projekt etwa 2-6 Wochen; 20 Tools zwischen Protokollen zu migrieren bricht gleichzeitig jeden konsumierenden Agenten und friert die Neuentwicklung typischerweise 3-6 Monate lang ein.
Ein LangChain-Agent kann ein MCP-Client sein, und ein in LangChain gebautes Tool kann als MCP-Server exponiert werden, sodass auch Nicht-LangChain-Agenten es aufrufen können.
Ein Datasphere-Tool fest gegen die BaseTool-Schnittstelle von LangChain zu programmieren sperrt es für Claude Code, Joule Agent oder Copilot Studio aus — es stattdessen als MCP zu exponieren lässt jeden Host es aufrufen.

Kernpunkte

Kategorien — LangChain / LlamaIndex / Mosaic AI sind Agenten-Frameworks (wie man den Agenten baut); MCP ist ein Wire-Protokoll (wie der Agent mit Tools spricht).
Komplementär, nicht konkurrierend — ein LangChain-Agent kann ein MCP-Client sein; ein LangChain-Tool kann als MCP-Server exponiert werden, aufrufbar von Joule oder jedem anderen MCP-Host.
Adoptionssignale — LlamaIndex-MCP-Client 2025-01; Mosaic AI Gateway registriert MCP-Server als gemanagte Kataloge; LangChain-MCP-Adapter community-seitig ausgeliefert 2025-02.
Frameworks sind umkehrbar — LangChain zu LlamaIndex wechseln mit einem durch Team-Produktivität begrenzten Umschreibaufwand (2-6 Wochen bei einem mittelgroßen Projekt); Protokolle sind es nicht — ein Wechsel der Tool-Protokolle bricht gleichzeitig jeden konsumierenden Agenten.
SAP-Analytics-Regel — den Tool-Katalog zuerst als MCP bauen; das Framework danach anhand von Entwickler-Ergonomie, Evaluations-Tooling und Team-Fähigkeiten wählen.
Lock-in-Asymmetrie — BaseTool-Lock-in sperrt Tools innerhalb eines Frameworks ein; MCP-Server-Exposition lässt dasselbe Tool ohne Änderung von Joule, Copilot Studio, Claude Code und LangChain-Agenten konsumiert werden.
Governance lebt auf der Protokollschicht — Zugriffskontrolle, Versionierung, Kostenmessung und Audit-Logging gehören in den MCP-Server oder den darüberliegenden AI Agent Hub, nicht in die Tool-Implementierung des Frameworks.
Evaluations-Tooling ist ein Framework-Unterscheidungsmerkmal — LangSmith (LangChain), LlamaCloud Eval (LlamaIndex) und Mosaic AI Evaluation (Databricks MLflow) unterscheiden sich deutlich; das Framework wählen, dessen Eval-Harness zum Debugging-Workflow des Teams passt.
Multi-Framework-Landschaften sind üblich — ein einzelner SAP-Kunde kann Joule (SAP-nativ), einen LangChain-Agenten (individuell) und Copilot Studio (Microsoft) gleichzeitig betreiben; MCP ist die einzige praktikable gemeinsame Tool-Schicht über alle drei hinweg.
Skalierungskriterium — einen framework-gebundenen Tool-Katalog nicht über 5 Tools oder 3 Agenten-Hosts hinaus skalieren, ohne zu MCP zu migrieren; die kombinatorischen Umschreibkosten wachsen als O(Tools × Hosts).

Begriffe auf dieser Seite

Agenten-Framework: Meinungsstarkes SDK, das Tool-Calling, Prompt-Orchestrierung, Memory, Retrieval, Evaluation und Tracing für die Entwicklung von Agenten-Applikationen bündelt; LangChain, LlamaIndex und Mosaic AI sind Beispiele.
Wire-Protokoll: Vertrag zwischen zwei Softwarekomponenten, der Nachrichtenformat, Discovery und Austauschregeln festlegt; MCP ist das Agent-zu-Tool-Wire-Protokoll, A2A (Agent-to-Agent) das Peer-Agent-Wire-Protokoll.
MCP (Model Context Protocol): Offenes, von Anthropic veröffentlichtes Protokoll (2024-11), das standardisiert, wie Agenten Tools entdecken und aufrufen; framework-agnostisch — jeder in jedem Framework gebaute Agent kann jeden MCP-Server aufrufen.
Mosaic AI Gateway: Von Databricks gemanagte Oberfläche (GA 2024-10) zum Routing von Agenten-Traffic an mehrere Modelle und Tool-Kataloge; registriert MCP-Server als vollwertige gemanagte Kataloge mit governiertem Zugriff.
BaseTool lock-in: Anti-Pattern, ein Tool direkt gegen die Klassenhierarchie eines Frameworks (z. B. LangChain BaseTool) zu implementieren statt als MCP-Server; erzeugt einen O(Tools × Hosts)-Umschreibaufwand beim Hinzufügen neuer Agenten-Hosts.
Server-prefixed tool naming (MCP): MCP-Konvention, bei der ein Client oder Proxy, der Tools aus mehreren MCP-Servern aggregiert, jedem Tool-Namen einen Server-Identifikator voranstellt (z. B. datasphere_query vs. crm_query), um Namenskollisionen zu vermeiden, wenn zwei Server ein ähnlich benanntes Tool anbieten; eine Konvention zur Disambiguierung, keine Fähigkeit für gemeinsames Deployment oder Governance.
LangSmith: Die gemanagte Evaluations- und Observability-Plattform von LangChain; bietet Prompt-Regressionstests, Trace-Replay und Evaluation auf Datensatzebene — das primäre Unterscheidungsmerkmal für Teams, die sich für LangChain statt LlamaIndex entscheiden.
A2A (Agent-to-Agent protocol): Das Peer-Agent-Wire-Protokoll (C229), das MCP ergänzt: Während MCP Agent-zu-Tool-Aufrufe regelt, regelt A2A Aufrufe zwischen Agenten — es ermöglicht Agenten-Delegation, Sub-Agenten-Orchestrierung und Multi-Agenten-Pipelines.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →