Content Filtering im Generative AI Hub

Zwei Anbieter, dort angewendet, wo Sie es wählen

Das Content-Filtering-Modul in config.modules.filtering ist optional und wirkt unabhängig auf input, output oder beides — eine unkonfigurierte Eingabe geht direkt an das Modell, und eine unkonfigurierte Ausgabe kommt ohne jede Prüfung zurück. Es unterstützt zwei Dienste, Azure Content Safety und Llama Guard 3, und Sie können beide gemeinsam betreiben: Jeder Filtertyp darf pro Richtung nur einmal vorkommen (zwei unterschiedlich eingestellte Azure-Content-Safety-Filter auf derselben Eingabe lassen sich nicht stapeln), doch unterschiedliche Typen laufen gleichzeitig, und der Orchestration Service wartet, bis alle konfigurierten Filter fertig sind, bevor er ein Ergebnis zurückgibt. SAP warnt ausdrücklich davor, Beispiele für unerwünschten Inhalt als Workaround in ein Prompt-Template einzufügen — das kann die Klassifikatoren selbst in Richtung falscher Positiver verzerren. „Die Orchestrierungspipeline des Generative AI Hub — die sechs Module in ihrer Reihenfolge“ platziert dieses Modul innerhalb der vollständigen Pipeline; diese Seite ist die Tiefenanalyse der beiden Anbieter selbst und bildet das Gegenstück zu „Datenmaskierung und Anonymisierung im Orchestration Service“ über das Masking-Modul, das in derselben Pipeline unmittelbar vor der Eingabefilterung läuft.

Warum es zählt

• Eine Red-Team-Übung, die nur aus Jailbreak-Prompts in der System-Rolle besteht, wird seit August 2026 sauber durchgehen — nicht weil die Verteidigung stark ist, sondern weil Prompt Shield diese Rolle gar nicht mehr bewertet.
• Client-Code, der nur den HTTP-Status prüft, liefert stillschweigend leere Antworten, sobald der Ausgabefilter anschlägt, da eine gefilterte Ausgabe ein 200 ist, kein Fehler.
• Azure Content Safety und Llama Guard 3 in beiden Richtungen zu stapeln, vervierfacht die Filterrechnung pro Anfrage still — ein Detail, das in jede Kostenschätzung neben den Modellaufruf selbst gehört.

Kernpunkte

• Zwei Anbieter: Azure Content Safety (Hate/Violence/Sexual/SelfHarm bei 0/2/4/6, Prompt Shield, Erkennung geschützten Codes) und Llama Guard 3 (14 boolesche Kategorien).
• Jeder Filtertyp einmal pro Richtung; unterschiedliche Typen laufen gleichzeitig; die Orchestrierung wartet, bis alle fertig sind.
• Prompt Shield läuft vor der Schadensklassifikation, wenn beide konfiguriert sind; ein erkannter Angriff überspringt die Schadensklassifikation vollständig.
• Seit August 2026 ignoriert Prompt Shield Inhalte der Rollen system und developer.
• Ablehnung in der Eingabe = HTTP 400, keine Modell-Token verbraucht. Blockade in der Ausgabe = HTTP 200 mit finish_reason: content_filter, kein Fehler.
• Jedes Azure-OpenAI-Modell trägt einen nicht konfigurierbaren globalen Filter, der Schweregrad 4 und 6 unabhängig von Ihren Schwellenwerten blockiert.
• Jeder konfigurierte Filtertyp wird als separate Anfrage abgerechnet — das Stapeln von Anbietern und Richtungen vervielfacht die Kosten.
• Azure Content Safety hat automatischen regionalen Fallback bei Diensteausfall; die Erkennung geschützten Codes erfasst nur vor ihrem Wissensstichtag veröffentlichten Code.

Begriffe auf dieser Seite

Schadensklassifikation

Azure Content Safetys Schweregrad-Bewertung (0/2/4/6) für Hate-, Violence-, Sexual- und SelfHarm-Inhalte.

Prompt Shield

Azure Content Safetys Prompt-Angriffserkennung; ignoriert seit August 2026 Inhalte der Rollen system und developer.

Erkennung geschützten Materials für Code

Eine reine Ausgabeprüfung von Azure Content Safety für generierten Code, der bis zu einem Wissensstichtag mit öffentlichen GitHub-Repositories übereinstimmt.

Llama Guard 3

Ein boolescher Gefahrenklassifikator mit 14 Kategorien (llama_guard_3_8b); nur angeforderte Kategorien werden von der Orchestrierung durchgesetzt.

finish_reason: content_filter

Das Feld, das eine Ausgabefilter-Blockade anzeigt; der HTTP-Status bleibt 200.

Globaler Content-Filter (Azure OpenAI)

Ein plattformweiter Filter auf jedem Azure-OpenAI-Modell, der Inhalte mit Schweregrad 4/6 unabhängig von Ihren eigenen Schwellenwerten blockiert.

Quellen

1. SAP AI Core docs (SAP-docs GitHub, Sep 2026) — Content Filtering (Azure Content Safety, Prompt Shield, protected material, Llama Guard 3, billing note)
2. SAP AI Core docs — Enhancing Model Consumption with Input Filtering (request/response example, 400 on rejection)
3. SAP AI Core docs — Enhancing Model Consumption with Output Filtering (finish_reason content_filter)
4. Microsoft Learn — Azure AI Content Safety, harm categories (primary source for the Hate/Violence/Sexual/SelfHarm 0/2/4/6 scale)
5. Microsoft Learn — Azure AI Content Safety, jailbreak (Prompt Shield) detection
6. Microsoft Learn — Azure AI Content Safety, Protected Material Detection for Code quickstart
7. Meta (PurpleLlama, GitHub) — Llama Guard 3 8B model card, hazard taxonomy and policy (Meta's own primary source)
8. GitHub SAP-docs — Enhancing model consumption with input filtering, earlier revision (SAP-authored mirror)
9. SAP Help Portal — Generative AI hub orchestration service overview (pipeline context for the filtering module)
10. SAP News Center — Secure AI agents: how SAP and NVIDIA co-define enterprise-grade agent execution (OpenShell, the separate agent-action governance layer)
11. SAP News Center — Autonomous enterprise: SAP AI agents at scale (AI Governance Assistant, EU AI Act/NIST risk classification, 2026-09-22)
12. Quickstart: Detect prompt attacks with Prompt Shields — Microsoft Learn (2026)
13. Prompt Shields in Microsoft Foundry (classic) — Microsoft Learn (Aug 2026)
14. Llama Guard (Llama Guard 3, S1-S14 hazard categories) — Mozilla.ai any-guardrail docs