LangChain / LlamaIndex / Mosaic AI vs. MCP — Framework vs. Protokoll

Was dieser Vergleich tatsächlich ist

LangChain (entstanden im Oktober 2022 in Python und JavaScript), LlamaIndex (ursprünglich GPT-Index, gestartet im Januar 2023) und das Databricks Mosaic AI Agent Framework (hervorgegangen aus MosaicML, das Databricks im Juni 2023 übernahm — angekündigt am 26. Juni, abgeschlossen am 19. Juli 2023 — und danach als Mosaic AI vermarktete) sind Agenten-Applikations-Frameworks: meinungsstarke Software-Development-Kits, die Tool-Calling, Prompt-Orchestrierung, Memory, Retrieval, Evaluation und Tracing in einer Entwickleroberfläche bündeln. Das Model Context Protocol (MCP) ist etwas kategorial anderes — ein Wire-Protokoll, ein Vertrag zwischen einem Agenten und einem Katalog von Tools, ohne jede Meinung darüber, wie der Agent selbst gebaut ist. Diese als konkurrierende Wahlmöglichkeiten zu behandeln ist der mit Abstand häufigste Architekturfehler in Agenten-Projekten, weil die Frage „Framework oder Protokoll?“ gar keine echte Wahl ist — man braucht beides, und sie operieren auf unterschiedlichen Schichten des Stacks.

Warum es zählt

• LangChain gegen LlamaIndex auszutauschen kostet bei einem mittelgroßen Projekt etwa 2-6 Wochen; 20 Tools zwischen Protokollen zu migrieren bricht gleichzeitig jeden konsumierenden Agenten und friert die Neuentwicklung typischerweise 3-6 Monate lang ein.
• Ein LangChain-Agent kann ein MCP-Client sein, und ein in LangChain gebautes Tool kann als MCP-Server exponiert werden, sodass auch Nicht-LangChain-Agenten es aufrufen können.
• Ein Datasphere-Tool fest gegen die BaseTool-Schnittstelle von LangChain zu programmieren sperrt es für Claude Code, Joule Agent oder Copilot Studio aus — es stattdessen als MCP zu exponieren lässt jeden Host es aufrufen.

Kernpunkte

• Kategorien — LangChain / LlamaIndex / Mosaic AI sind Agenten-Frameworks (wie man den Agenten baut); MCP ist ein Wire-Protokoll (wie der Agent mit Tools spricht).
• Komplementär, nicht konkurrierend — ein LangChain-Agent kann ein MCP-Client sein; ein LangChain-Tool kann als MCP-Server exponiert werden, aufrufbar von Joule oder jedem anderen MCP-Host.
• Adoptionssignale — LlamaIndex-MCP-Client 2025-01; Mosaic AI Gateway registriert MCP-Server als gemanagte Kataloge; LangChain-MCP-Adapter community-seitig ausgeliefert 2025-02.
• Frameworks sind umkehrbar — LangChain zu LlamaIndex wechseln mit einem durch Team-Produktivität begrenzten Umschreibaufwand (2-6 Wochen bei einem mittelgroßen Projekt); Protokolle sind es nicht — ein Wechsel der Tool-Protokolle bricht gleichzeitig jeden konsumierenden Agenten.
• SAP-Analytics-Regel — den Tool-Katalog zuerst als MCP bauen; das Framework danach anhand von Entwickler-Ergonomie, Evaluations-Tooling und Team-Fähigkeiten wählen.
• Lock-in-Asymmetrie — BaseTool-Lock-in sperrt Tools innerhalb eines Frameworks ein; MCP-Server-Exposition lässt dasselbe Tool ohne Änderung von Joule, Copilot Studio, Claude Code und LangChain-Agenten konsumiert werden.
• Governance lebt auf der Protokollschicht — Zugriffskontrolle, Versionierung, Kostenmessung und Audit-Logging gehören in den MCP-Server oder den darüberliegenden AI Agent Hub, nicht in die Tool-Implementierung des Frameworks.
• Evaluations-Tooling ist ein Framework-Unterscheidungsmerkmal — LangSmith (LangChain), LlamaCloud Eval (LlamaIndex) und Mosaic AI Evaluation (Databricks MLflow) unterscheiden sich deutlich; das Framework wählen, dessen Eval-Harness zum Debugging-Workflow des Teams passt.
• Multi-Framework-Landschaften sind üblich — ein einzelner SAP-Kunde kann Joule (SAP-nativ), einen LangChain-Agenten (individuell) und Copilot Studio (Microsoft) gleichzeitig betreiben; MCP ist die einzige praktikable gemeinsame Tool-Schicht über alle drei hinweg.
• Skalierungskriterium — einen framework-gebundenen Tool-Katalog nicht über 5 Tools oder 3 Agenten-Hosts hinaus skalieren, ohne zu MCP zu migrieren; die kombinatorischen Umschreibkosten wachsen als O(Tools × Hosts).

Begriffe auf dieser Seite

Agenten-Framework

Meinungsstarkes SDK, das Tool-Calling, Prompt-Orchestrierung, Memory, Retrieval, Evaluation und Tracing für die Entwicklung von Agenten-Applikationen bündelt; LangChain, LlamaIndex und Mosaic AI sind Beispiele.

Wire-Protokoll

Vertrag zwischen zwei Softwarekomponenten, der Nachrichtenformat, Discovery und Austauschregeln festlegt; MCP ist das Agent-zu-Tool-Wire-Protokoll, A2A (Agent-to-Agent) das Peer-Agent-Wire-Protokoll.

MCP (Model Context Protocol)

Offenes, von Anthropic veröffentlichtes Protokoll (2024-11), das standardisiert, wie Agenten Tools entdecken und aufrufen; framework-agnostisch — jeder in jedem Framework gebaute Agent kann jeden MCP-Server aufrufen.

Mosaic AI Gateway

Von Databricks gemanagte Oberfläche (GA 2024-10) zum Routing von Agenten-Traffic an mehrere Modelle und Tool-Kataloge; registriert MCP-Server als vollwertige gemanagte Kataloge mit governiertem Zugriff.

BaseTool lock-in

Anti-Pattern, ein Tool direkt gegen die Klassenhierarchie eines Frameworks (z. B. LangChain BaseTool) zu implementieren statt als MCP-Server; erzeugt einen O(Tools × Hosts)-Umschreibaufwand beim Hinzufügen neuer Agenten-Hosts.

Server-prefixed tool naming (MCP)

MCP-Konvention, bei der ein Client oder Proxy, der Tools aus mehreren MCP-Servern aggregiert, jedem Tool-Namen einen Server-Identifikator voranstellt (z. B. datasphere_query vs. crm_query), um Namenskollisionen zu vermeiden, wenn zwei Server ein ähnlich benanntes Tool anbieten; eine Konvention zur Disambiguierung, keine Fähigkeit für gemeinsames Deployment oder Governance.

LangSmith

Die gemanagte Evaluations- und Observability-Plattform von LangChain; bietet Prompt-Regressionstests, Trace-Replay und Evaluation auf Datensatzebene — das primäre Unterscheidungsmerkmal für Teams, die sich für LangChain statt LlamaIndex entscheiden.

A2A (Agent-to-Agent protocol)

Das Peer-Agent-Wire-Protokoll (C229), das MCP ergänzt: Während MCP Agent-zu-Tool-Aufrufe regelt, regelt A2A Aufrufe zwischen Agenten — es ermöglicht Agenten-Delegation, Sub-Agenten-Orchestrierung und Multi-Agenten-Pipelines.

Quellen

1. Databricks — Databricks completes acquisition of MosaicML (19 Jul 2023)
2. LangChain — official documentation
3. LangChain MCP community adapter (2025-02)
4. NIST — AI Risk Management Framework
5. SAP Business AI — official product page
6. Model Context Protocol — Specification index, revision 2026-07-28
7. Model Context Protocol — Tasks extension overview (spec 2026-07-28)
8. Model Context Protocol — Client Features: Elicitation (spec 2026-07-28)
9. Model Context Protocol — Skills extension overview
10. Anthropic — Introducing the Model Context Protocol (2024-11-25)
11. LangChain Docs — Model Context Protocol (MCP) (using MCP servers as LangChain tools)
12. LlamaIndex Docs — Mcp API reference (MCPClient, get_tools_from_mcp_url, workflow_as_mcp)
13. Databricks Docs — Databricks managed MCP servers (managed MCP servers behind Unity Gateway)
14. Databricks — September 2026 platform release notes (Agent Bricks CLI beta, 29 Sep 2026)
15. NVIDIA Technical Blog — Add Runtime Controls to AI Agents with NVIDIA OpenShell (framework-independent runtime controls, 28 Sep 2026)
16. Model Context Protocol — SDKs (official SDKs for building servers and clients)