Prompt Engineering und Prompting-Techniken für SAP KI

Was Prompt Engineering ist und was nicht

Prompt Engineering ist die Disziplin, Text, Struktur und Beispiele, die an ein Sprachmodell gesendet werden, so zu gestalten, dass die Ausgabe korrekt, verwendbar und wiederholbar ist. Es ändert nur die Eingabe und ist damit der günstigste und schnellste Hebel, aber auch einer mit Obergrenze. Der Prompt-Engineering-Überblick von Anthropic (abgerufen am 18. Oktober 2026) ist eindeutig: Vor dem Feintuning braucht es klare Erfolgskriterien, eine Möglichkeit, dagegen zu testen, und einen ersten Entwurf; und nicht jede fehlgeschlagene Evaluierung lässt sich am besten mit einem Prompt lösen: Manchmal behebt ein anderes Modell Latenz oder Kosten leichter. Im Generative AI Hub von SAP AI Core, in Joule-Studio-Agenten und in Orchestrierungs-Pipelines ist der Prompt ein versioniertes, geprüftes und getestetes Artefakt, keine einmal getippte Chatnachricht.

Die Bausteine eines guten Prompts

Ein verlässlicher Prompt trennt sechs Dinge, auch wenn sie am Ende in einem Textblock stehen. Die Anweisung sagt in einem Satz mit Verb, was zu tun ist. Der Kontext liefert, was das Modell nicht erraten kann: den Geschäftsprozess, die Fachbegriffe des Unternehmens, das gelesene Dokument. Die Eingabedaten sind der variable Teil, etwa die Kunden-E-Mail oder die Bestellpositionen. Das Ausgabeformat legt die Form der Antwort fest. Die Einschränkungen nennen, was nicht passieren darf: keine erfundenen Werte, keine personenbezogenen Daten in der Antwort, eine maximale Länge. Ton und Zielgruppe sagen, wer das Ergebnis liest, zum Beispiel ein Finanzcontroller oder ein Mitarbeiter im First-Level-Support.

Warum es zählt

• Prompts sind inzwischen deploybare Konfiguration im Generative AI Hub, in Joule Studio und in Orchestrierungs-Pipelines; Qualität, Versionierung und Tests sind Liefergegenstand, keine Chat-Gewohnheit.
• Die richtige Reihenfolge aus Prompt Engineering, RAG und Fine-Tuning ist der günstigste Weg, eine überdimensionierte Lösung beim Kunden zu vermeiden.
• Prompt Injection macht jede nicht vertrauenswürdige E-Mail, jedes Dokument und jede Webseite zur möglichen Anweisung; Prompt-Design und Sicherheitsdesign gehören zusammen.

Kernpunkte

• Sechs Bausteine: Anweisung, Kontext, Eingabedaten, Ausgabeformat, Einschränkungen, Ton und Zielgruppe.
• Few-Shot: Anthropic empfiehlt 3 bis 5 relevante, vielfältige Beispiele (abgerufen am 18. Okt. 2026).
• Der Zero-Shot-CoT-Auslöser hob ein Modell von 2022 bei MultiArith von 17,7 % auf 78,7 % (arXiv 2205.11916); Reasoning-Modelle denken heute von Haus aus.
• response_format akzeptiert text, json_object oder json_schema; ein Schema wird von der API erzwungen, Formulierung nicht.
• Orchestrierung verkettet Templating (verpflichtend), Grounding, Übersetzung, Inhaltsfilterung, Datenmaskierung in einem Aufruf.
• Prompt Registry: versionierte Vorlagen mit {{?Platzhaltern}}, abrufbar per ID (unveränderlich) oder per Name, Szenario, Version.
• Evaluierungen bewerten Prompts mit Metriken wie exakter Übereinstimmung und JSON-Schema-Übereinstimmung; Prompt-Versionen vergleicht man mit je einem Lauf.
• Prompt Injection (OWASP LLM01): direkt oder indirekt; Kontrolle durch Architektur, nicht durch Formulierung.

Begriffe auf dieser Seite

Prompt Engineering

Gestaltung von Text, Struktur und Beispielen für ein Modell, um korrekte, wiederholbare Ausgaben zu erhalten.

Zero-Shot / Few-Shot

Prompting ohne Beispiele / mit einer Handvoll ausgearbeiteter Beispiele.

Chain-of-Thought

Zwischenschritte des Denkens vor der Endantwort erzeugen lassen.

System-Prompt

Dauerhafte Anweisungen und Rolle, die jede Runde einer Unterhaltung rahmen.

Strukturierte Ausgabe

Auf ein Format beschränkte Ausgabe, etwa ein JSON-Schema.

Prompt-Vorlage

Fester Prompt-Text mit Platzhaltern, die zur Laufzeit gefüllt werden.

Prompt Registry

Dienst des Generative AI Hub für versionierte, wiederverwendbare Prompt-Vorlagen.

Orchestration Service

Dienst des Generative AI Hub, der Templating, Grounding, Filterung und Maskierung in einem Aufruf verkettet.

Quellen

1. SAP Learning — Managing Prompts with the Prompt Registry and Templates (templates, versions, {{?placeholders}}, imperative and declarative APIs; accessed 18 Oct 2026)
2. SAP Developers tutorial — Generative AI hub evaluation (datasets, prompt template by ID, metrics, win rate; accessed 18 Oct 2026)
3. SAP Developers tutorial — Prompt optimization in the generative AI hub (model-specific optimisation, Extended plan; accessed 18 Oct 2026)
4. SAP Developers tutorial — Prompt optimization, tool calling and response formatting (response_format text/json_object/json_schema; accessed 18 Oct 2026)
5. SAP Developers tutorial — Prompt registry in the generative AI hub (found via search; snippet only, accessed 18 Oct 2026)
6. SAP Help Portal / SDK reference — Prompt Registry API (found via search; not read in full, accessed 18 Oct 2026)
7. SAP Learning — Discovering the Orchestration Service (module list as summarised by search; accessed 18 Oct 2026)
8. SAP Learning — Introduction to Orchestration (templating mandatory, modules chained in one call; search summary, accessed 18 Oct 2026)
9. SAP Developers tutorial — Create a Joule Studio agent (expertise vs instructions, simulator; search summary, accessed 18 Oct 2026)
10. SAP Learning — Building Joule agents with Joule Studio (search summary, accessed 18 Oct 2026)
11. Anthropic — Prompt engineering overview (success criteria first; vendor documentation, accessed 18 Oct 2026)
12. Anthropic — Prompting best practices (3-5 examples, XML tags, role, long documents first, adaptive thinking; vendor documentation, accessed 18 Oct 2026)
13. Anthropic — Prompt caching (5-minute default, 1.25x write, 0.1x read, exact prefix; vendor documentation, accessed 18 Oct 2026)
14. arXiv 2005.14165 — Language Models are Few-Shot Learners (28 May 2020)
15. arXiv 2201.11903 — Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (28 Jan 2022)
16. arXiv 2205.11916 — Large Language Models are Zero-Shot Reasoners (24 May 2022)
17. OWASP GenAI Security Project — LLM01 Prompt Injection (definition, direct vs indirect, mitigations; accessed 18 Oct 2026)