KI-Red-Teaming für SAP
Stand 2026-09-03
5 Angriffsflächen: Prompt Injection · Tool-Missbrauch · indirekte Prompt Injection (RAG) · Datenexfiltration · außer Kontrolle geratene Kosten. Senior-Protokoll: 10-30 adversariale Prompts pro Skill, den Angriffsflächen zugeordnet, ausgeführt vor Launch + bei jeder Änderung + vierteljährlich. Beheben, bis 100 % sicher degradieren. Kosten ~5-10 % des Builds = günstigste Versicherung. Regressionssuite aus jedem Angriff aufbauen.
Was Sie lernen
- Ein KI-Feature auf die 5 SAP-Angriffsflächen abbilden (Prompt Injection, Tool-/Skill-Missbrauch, indirekte RAG-Injection, Datenexfiltration, außer Kontrolle geratene Kosten) und einen adversarialen Katalog aus 10-30 Prompts aufbauen
- Das Red-Team-Protokoll vor dem Launch, bei jeder Änderung der Prompt-Vorlage und vierteljährlich in der Produktion ausführen und jede Antwort als sicher-degradiert oder angriff-ausgeführt bewerten
- Katalogergebnisse in eine versionierte, automatisierte Regressionssuite umwandeln, die in CI/CD eingebunden ist, mit einer mittleren Behebungszeit unter 1 Woche als Zielwert
- Die Abwägung internes vs. externes Red-Team für Hochrisiko-Deployments nach Anhang III begründen und die Investition von ~5-10 % der Build-Kosten gegenüber einem Sponsor verteidigen
Modulüberblick
Red-Teaming = adversariales Testen von KI-Features, BEVOR Produktivnutzer die Fehlermodi finden. Für SAP-Analytics-KI lautet die Frage nicht „könnte ein böswilliger Akteur das kaputt machen?“, sondern „welche geschäftliche Konsequenz erzeugt der wahrscheinlichste Fehlermodus?“ — und man gestaltet so lange, bis der schlimmste Fall akzeptabel ist.
Voraussetzungen
- Fortgeschrittene praktische Erfahrung mit SAP-Analytics-Projekten
- Zunächst die Kernkonzepte durcharbeiten: C008, C087, C029
Lernergebnisse
- Ein realistisches Szenario durcharbeiten: Bank führt 3 Joule-Skills + 1 RAG-Flow für Kreditrisiko ein. 6-wöchiges Red-Team-Programm.
- Das Anti-Pattern erkennen und vermeiden: Nur Red-Team vor dem Launch — Drift in der Produktion; neue Fehlermodi werden von Nutzern entdeckt.
- Die Kernentscheidung des Moduls anwenden: Anzahl adversarialer Prompts — 10-30 pro Skill, den 5 Flächen zugeordnet wählen, nicht 1-2 Prompts (keine Flächenabdeckung).
- Die Beherrschung mit dem KPI verfolgen: Flächenabdeckung (Ziel: 100 % der 5 Flächen; Warnsignal: Eine Fläche fehlt).
Vollständiges Modul für Mitglieder. Das vollständige Modul ergänzt: den Entscheidungsrahmen · das durchgehende Szenario · die KPI-Scorecard · die Anti-Muster · die Codeblöcke · die Wissenskontrolle · die Schemata.