SAP AI Core — Resource Groups, Scenarios und Executables

Was Sie lernen

• Die sechs Kernobjekte von SAP AI Core benennen und ordnen — Scenario, Executable, Configuration, Execution, Deployment, Artifact — und erklären, wie jedes auf dem vorherigen aufbaut
• Präzise angeben, welche AI-Core-Objekte tenant-weit über Resource Groups geteilt werden und welche einer einzigen zugeordnet sind, und diese Grenze für den Entwurf eines Resource-Group-Layouts nutzen
• Die Pflicht-Labels und -Annotations schreiben, die ein Argo-WorkflowTemplate als Scenario und Executable registrieren, einschließlich Artifact-Metadaten und globalName
• Erklären, wie ein bei Git registriertes Repository in den Scenario- und Executable-Katalog von AI Core synchronisiert wird
• Das KServe-InferenceService-Spec eines Serving Templates lesen und minReplicas, maxReplicas und containerConcurrency für ein realistisches Traffic-Muster setzen
• Die Effizienzfunktionen von AI Core — Autoscaling, Scale-to-Zero, Scale-to-1, ttl, Warm Node Pool — anwenden, um Kosten und Latenz eines Deployments auszubalancieren

Modulüberblick

Für wen dieses Modul gedacht ist. Sie haben im Generative AI Hub einen Proof of Concept gebaut, ein Modell über die Orchestrierung aufgerufen, und nun verlangt ein Kunde eine echte Landschaft: getrenntes Dev, Test und Produktion, einen Ort, an dem ein Data-Science-Team Trainingsjobs neben den Chatbot-Workloads ausführt, und eine Antwort auf „wer sieht was“. Diese Landschaft ist das Objektmodell von SAP AI Core (Ressourcengruppen, Szenarien, Executables, Konfigurationen, Ausführungen, Deployments, Artefakte). Die meisten Kurse überspringen es, weil ein Trial-Tenant es hinter einer einzigen Ressourcengruppe namens default versteckt. Am Ende können Sie die Landschaft auf Papier entwerfen, über die AI API anlegen und den Tenant eines Kunden auf die im Kapitel Fallstricke aufgeführten Isolationsfehler prüfen. Nächstes Modul: Training und Serving eigener Modelle.

Voraussetzungen

• Ein im generative AI hub gebauter Proof of Concept mit einem über Orchestration aufgerufenen Modell („SAP-AI-Launchpad-Betrieb“ zu SAP AI Launchpad und generative AI hub)
• Grundbegriffe von Kubernetes und YAML (Namespace, Secret, Container-Image, Replica)
• Für den Praxisteil: eine SAP-AI-Core-Serviceinstanz mit Serviceschlüssel, der Service-Plan extended für generative KI und ein Bearer-Token aus dem Serviceschlüssel

Lernergebnisse

• Die sechs Objekte von SAP AI Core in Abhängigkeitsreihenfolge nennen (Szenario, Executable, Konfiguration, Ausführung oder Deployment, Artefakt), mit SAPs Definitionen.
• Sagen, welche Objekte an eine Ressourcengruppe gebunden und welche im Mandanten geteilt sind, und erklären, warum ein geteilter Bucket oder IAM-Zugang die Isolation bricht.
• Die Labels und Annotationen schreiben, die Szenario und Executable aus einem Argo-Workflow-Template registrieren, einschließlich globalName an Ausgabeartefakten.
• Über die AI API eine Ressourcengruppe anlegen, ein Repository anbinden, eine Konfiguration und ein Deployment erstellen und prüfen, dass das Deployment für eine andere Gruppe abgelehnt wird.
• Je Deployment eine Skalierungsregel wählen (Scale-to-Zero, Scale-to-1, warme Knoten, ttl) und eine Landschaft mit vier Prüfungen je Ressourcengruppe testen.