Konzeptkarte

AI Center of Excellence — Gestaltung des Betriebsmodells

Stand 10. Oktober 2026

Redaktion: Cédric Mary, alleiniger Redakteur und verantwortlich für die Veröffentlichung — 27 Jahre im SAP-Ökosystem. Wie diese Seiten entstehen und wo Automatisierung eingesetzt wird.

Was ist AI Center of Excellence?

Ein föderiertes Hub-and-Spoke-AI-CoE — ein schlankes zentrales Team mit fachbereichsverantworteten Use-Case-Backlogs — ist das einzige Betriebsmodell, das sowohl den 6-monatigen Freigabe-Engpass als auch den Schatten-ChatGPT-Wildwuchs vermeidet, der bei einem EU-KI-Verordnung-Audit durchfällt.

Worum es geht

Ein AI Center of Excellence (AI CoE) ist die Organisationseinheit — oder das föderierte Netzwerk von Einheiten —, die Standards, Tooling, Talente und Governance für den KI-Einsatz über eine SAP-Landschaft hinweg verantwortet. 2026 verfügen die meisten großen SAP-Kunden über ein Analytics-CoE, das Datasphere und SAC verantwortet; das AI CoE ist die Weiterentwicklung dieser Struktur, um generative KI (Joule-Agenten, SAP AI Core, Integration großer Sprachmodelle) zu absorbieren, ohne die Datengovernance-Disziplin zu verlieren, für deren Aufbau das Analytics-CoE Jahre gebraucht hat.

Das Problem ist, dass generative KI zwei entgegengesetzte Fehlermodi erzeugt: Überzentralisierung (ein AI CoE, das zum Flaschenhals wird — jeder Use Case wartet 6 Monate auf die zentrale Freigabe, während Fachbereiche ChatGPT im Schatten auf unkontrollierten Daten einsetzen) und Unterzentralisierung (jeder Fachbereich setzt eigene Modelle ein, erstellt eigene Trainingsdaten außerhalb von Datasphere, und die Organisation häuft Dutzende ungoverntes KI-Systeme an, die das EU-KI-Verordnung-Audit nicht bestehen werden). Das Betriebsmodell, das beides vermeidet, ist das föderierte Hub-and-Spoke-Modell: Ein zentrales CoE verantwortet Standards, Tooling, das AI-Foundation-Modellregister und die Dokumentation der EU-KI-Verordnung-Konformität; jeder Fachbereich verantwortet sein eigenes KI-Use-Case-Backlog und setzt innerhalb der vom CoE definierten Leitplanken ein.

Warum es zählt

Benennt die beiden Fehlermodi explizit (Überzentralisierung vs. Unterzentralisierung) — ein Diagnosewerkzeug, um den aktuellen Zustand eines Kunden in einem einzigen Gespräch zu lesen.
Fünf strukturelle Komponenten (Plattformschicht, Use-Case-Register, Modell-Governance, Talent-Rückgrat, Kompetenzprogramm) liefern eine konkrete Design-Checkliste, nicht nur eine Philosophie.
Genannter Schwellenwert: Hub-and-Spoke passt zu Organisationen mit >5 Fachbereichen und >50 SAP-Power-Usern — darunter genügt einfachere Governance.

Kernpunkte

Ein AI CoE verantwortet Standards, Tooling, Talent und Governance für KI in der gesamten SAP-Landschaft — meist als Weiterentwicklung des Analytics-CoE, das Datasphere und SAC bereits verantwortet.
Zwei gegensätzliche Fehlermodi: Überzentralisierung (jeder Anwendungsfall wartet monatelang auf zentrale Freigabe, während sich Schatten-KI ausbreitet) und Unterzentralisierung (jeder Fachbereich trainiert oder betreibt Modelle außerhalb der Datasphere-Governance).
Ein föderiertes Hub-and-Spoke-Modell — schlankes Zentralteam, fachbereichseigene Use-Case-Backlogs — vermeidet beides; den Kipppunkt aus der tatsächlichen Freigabe-Warteschlange des Kunden ableiten, nicht aus einer geliehenen Kopfzahl-Regel.
Das erste Ergebnis des CoE ist ein Inventar der KI-Anwendungsfälle mit ihrer Risikoeinstufung nach dem EU AI Act, keine Tool-Entscheidung.
Ein Governance-Gremium im Dashboard-Stil (nur Build-Zeit-Review) reicht für einen Agenten nicht aus, der bei jedem Lauf weiter Ermessensentscheidungen trifft — die Agentenaufsicht braucht einen zusätzlichen Überwachungsplan (Drift, Kosten, Vorfallrate), der vor dem Go-live angehängt wird.
Ein KI-Use-Case-Register funktioniert als Kontrolle nur, wenn es auf einem technischen Inventar der eingesetzten Agenten und MCP-Server beruht, nicht auf einem freiwilligen Selbstmeldeformular.
Fünf strukturelle Komponenten: eine KI-Plattformschicht (AI Core, Datasphere-Feature-Store, BDC-Databricks), ein Use-Case-Register mit Risikoeinstufung, eine Modell-Governance-Schicht (Model Cards, Bias-Tests, Überwachungsschwellen), ein Talent-Rückgrat (C150) und ein KI-Kompetenzprogramm für Fachanwender.
Vor der Gestaltung des CoE fragen, wo die KI-Trainingsdaten jedes Fachbereichs tatsächlich liegen — Daten außerhalb von Datasphere bedeuten, dass die Unterzentralisierung bereits im Gange ist.

Begriffe auf dieser Seite

AI Center of Excellence (AI CoE): Die Organisationseinheit — oder das föderierte Netzwerk von Einheiten —, die Standards, Tooling, Talente und Governance für den KI-Einsatz über eine SAP-Landschaft hinweg verantwortet.
Hub-and-Spoke-Betriebsmodell: Ein föderiertes CoE-Design, bei dem ein schlankes zentrales Team Standards, das Modellregister und die Compliance-Dokumentation verantwortet, während jeder Fachbereich sein eigenes Use-Case-Backlog innerhalb dieser Leitplanken verantwortet.
Schatten-KI: Ein KI-Einsatz — ein Chatbot-Abo, ein Joule-Studio-Agent, ein Generative-AI-Hub-Test — aufgesetzt über ein legitimes individuelles Nutzungsrecht, ohne je den Intake-Prozess des CoE zu durchlaufen.
KI-Use-Case-Register: Das Inventar des CoE, das jeden KI-Anwendungsfall vor Engineering-Beginn einer EU-AI-Act-Risikostufe zuordnet; funktioniert als Kontrolle nur, wenn es auf einem technischen Inventar eingesetzter Agenten beruht, nicht auf einem freiwilligen Formular.
Modell-Governance-Schicht: Die CoE-Funktion für Model Cards (EU-AI-Act Art. 11), Bias-Test-Kadenz und Alarmschwellen für die Leistungsüberwachung jedes eingesetzten Modells oder Agenten.
KI-Kompetenzprogramm: Das Schulungsangebot des CoE für Fachanwender, das abdeckt, was Joule-Agenten können und was nicht — die praktische Alternative dazu, dass Nutzer ein KI-System umgehen, das sie nicht verstehen.
Talent-Rückgrat: Die benannten AI-CoE-Rollen (untersucht in C150), die dem Betriebsmodell Kontinuität unabhängig von einer einzelnen Einstellung geben — der Krisenpunkt, den die meisten CoE-Designs unterschätzen.

Quellen

Vollständige Karte für Mitglieder. Was die vollständige Karte ergänzt: den vollständigen Entscheidungsrahmen · den Vergleich SAP · Snowflake · Databricks · Fabric · die häufigen Fallstricke und ihre Behebung · die Kurzreferenz · die Architekturschemata · die Codeblöcke · die zitierfähigen Kennzahlen.

In der App öffnen →

Offene SAP-Projekte

Aktuelle SAP-Analytics-Projekte und Stellen im DACH-Raum: SAP-Analytics-Projekte im DACH-Raum.