Konzeptkarte

SAP Cloud SDK for AI & CAP LLM Plugin

Stand 2026-09-23

Redaktion: Cédric-Olivier Mâry, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist SAP Cloud SDK for AI & CAP LLM Plugin?

SAP Cloud SDK for AI (JavaScript/TypeScript, Java, Python) ist der offizielle Client von SAP für SAP AI Core, den Generative AI Hub und den Orchestration Service, mit LangChain- und Spring-AI-Integrationen. Das ältere CAP-LLM-Plugin wurde im Juni 2026 archiviert — neue CAP-Projekte kombinieren stattdessen das SDK mit den nativen KI-Funktionen von CAP.

Was es ist

SAP Cloud SDK for AI ist das offizielle Software Development Kit für SAP AI Core, den Generative AI Hub und dessen Orchestration Service. Es stellt dem Anwendungscode einen typisierten, authentifizierten Client für Chat-Completion, Embeddings, Document Grounding, Prompt-Management und die Lifecycle-APIs von AI Core bereit, sodass Entwickler REST-Aufrufe, Token-Handling oder das Auflösen von Deployment-URLs nicht manuell umsetzen müssen. Es existiert in drei Sprachen:

JavaScript/TypeScript — npm-Pakete unter @sap-ai-sdk/*: orchestration, foundation-models, langchain, document-grounding, prompt-registry und ai-api (AI-Core-Szenarien, -Ausführungen, -Deployments). Version 2.16.0 wurde am 18. September 2026 veröffentlicht.
Java — Maven-Gruppe com.sap.ai.sdk (Module u. a. orchestration, foundationmodels, document-grounding, prompt-registry, core); aktuellstes Release 1.25.0 Anfang September 2026. Erfordert Java 17 oder höher (21 LTS empfohlen); integriert sich mit Spring AI (≥ 1.0.0), Spring Boot ≥ 3.0 und CAP Java ≥ 3.0.0. Als @Beta markierte Modellklassen können sich in Minor-Releases ändern.
Python — Paket sap-ai-sdk-gen (7.4.0, September 2026, Python ≥ 3.9), das native Provider-SDKs (OpenAI, Amazon, Google), LangChain und den Orchestration Service kapselt. Es ersetzt das ältere generative-ai-hub-sdk, das PyPI inzwischen als deprecated kennzeichnet.

Warum es zählt

SAP Cloud SDK for AI ist der offizielle, gepflegte Client für AI Core und den Generative AI Hub in JavaScript, Java und Python — der Standardbaustein jeder Pro-Code-SAP-AI-Erweiterung.
Das CAP-LLM-Plugin wurde am 16. Juni 2026 archiviert; Material, das es weiterhin empfiehlt, ist veraltet, und neue Projekte sollten das SDK zusammen mit den nativen KI-Funktionen von CAP verwenden.
Der Orchestration Service bietet eine anbieterübergreifend harmonisierte API sowie Data Masking, Filterung und Grounding — die Enterprise-Kontrollen, die einem direkten Modellaufruf fehlen.

Kernpunkte

Drei SDKs: JavaScript/TypeScript (@sap-ai-sdk/*), Java (com.sap.ai.sdk), Python (sap-ai-sdk-gen).
JS-Pakete: orchestration, foundation-models, langchain, document-grounding, prompt-registry, ai-api; Version 2.16.0 am 18. September 2026.
Java: JDK 17+ (21 LTS empfohlen), Spring AI ≥ 1.0.0, Spring Boot ≥ 3.0, CAP Java ≥ 3.0.0; Release 1.25.0 im September 2026.
Python: sap-ai-sdk-gen 7.4.0 (Python ≥ 3.9) ersetzt das veraltete generative-ai-hub-sdk.
Orchestration Service = Templating, Data Masking, Content-Filterung, Grounding, Übersetzung, Fallback rund um eine harmonisierte Modell-API.
LangChain: OrchestrationClient von @sap-ai-sdk/langchain (JS), Spring-AI-Integration (Java), sap-ai-sdk-gen[all] (Python).
CAP-LLM-Plugin: letztes Release 1.5.1 (September 2025), Repository archiviert am 16. Juni 2026.
Die nativen KI-Funktionen von CAP ersetzen es: Typ Vector + vector_embedding() in HANA Cloud, @cap-js/mcp, @cap-js/agents.

Begriffe auf dieser Seite

SAP Cloud SDK for AI: SAPs offizielle SDK-Familie (JavaScript/TypeScript, Java, Python) für SAP AI Core, den Generative AI Hub und den Orchestration Service.
Orchestration Service: Service des Generative AI Hub, der einen Modellaufruf mit Templating, Data Masking, Content-Filterung, Grounding, Übersetzung und Fallback hinter einer harmonisierten API kapselt.
Foundation-Models-Client: SDK-Paket zum direkten Aufruf der Modell-API eines bestimmten Anbieters über AI Core, ohne Orchestration-Module.
Resource Group: Abgrenzungseinheit in AI Core, die Deployments, Konfigurationen und Secrets pro Mandant oder Projekt isoliert.
CAP-LLM-Plugin: Ehemaliges CAP-Node.js-Plugin für Anonymisierung, Embeddings, Ähnlichkeitssuche und RAG; Repository archiviert am 16. Juni 2026.
vector_embedding(): SAP-HANA-Cloud-Funktion, nutzbar aus berechneten Elementen von CAP, die Embeddings direkt in der Datenbank berechnet.
AICORE_SERVICE_KEY: Umgebungsvariable, die das SDK in der lokalen Entwicklung liest, um sich bei AI Core zu authentifizieren; in der Produktion werden Bindings oder Destinations verwendet.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →