Fiche concept

Génération de données synthétiques — Self-Instruct, Self-Play

À jour au 2026-07-24T14:00:00Z

Édité par Cédric-Olivier Mâry, éditeur et directeur de la publication — 27 ans d'écosystème SAP. Comment ces pages sont produites, et où intervient l'automatisation.

Qu'est-ce que Génération de données synthétiques — Self-Instruct, Self-Play ?

La génération de données synthétiques dépasse le plafond des données étiquetées humainement en faisant générer un modèle enseignant capable et apprendre un modèle étudiant — Self-Instruct a prouvé qu'un enseignant 175B pouvait bootstraper un étudiant 7B compétitif à partir de seulement 175 prompts seed.

Ce que c'est

La génération de données synthétiques consiste à utiliser un modèle « enseignant » suffisamment puissant pour fabriquer des exemples d'entraînement — paires question-réponse, traductions de code, traces d'appels d'outils, tours de dialogue jugés — qui servent ensuite à entraîner un modèle « élève », plutôt que de payer des humains pour rédiger chaque exemple à la main. C'est devenu la stratégie de fine-tuning par défaut en entreprise dès lors que les modèles de pointe sont devenus capables d'écrire des données de domaine métier constamment justes, plus vite qu'aucune équipe d'annotation ne pourrait en recruter et en calibrer une.

Pourquoi c'est important

Le goulot d'étranglement de presque tout projet de fine-tuning n'est ni le calcul ni l'algorithme — c'est le corpus de départ (« seed »). Une équipe qui veut un modèle capable de traduire de l'ABAP en SQL, ou de répondre à des questions sur un modèle spécifique de SAP Business Data Cloud, dispose typiquement d'une poignée d'exemples rédigés à la main et d'aucune voie réaliste pour recruter des annotateurs qui maîtrisent à la fois le domaine et le format cible suffisamment bien pour en produire des milliers de plus. La génération synthétique transforme cette poignée d'exemples de départ en dizaines, voire centaines de milliers de paires d'entraînement, pour un coût mesuré en tokens d'API plutôt qu'en effectifs d'annotateurs.

Comment ça marche

Trois familles dominent la pratique, et elles résolvent des problèmes différents.

Pourquoi c'est important, en pratique

Trois modes d'échec nommés reviennent dans toutes les approches : l'effondrement de mode, l'amplification d'hallucinations (les erreurs de l'enseignant deviennent des étiquettes d'entraînement pour l'étudiant), et la copie verbatim qui crée une exposition au droit d'auteur en aval.
Les garde-fous sont précis, pas génériques : déduplication agressive (MinHash + SemDeDup), filtrage factuel contre une vérité de terrain, et journalisation de provenance pour les pistes d'audit Art. 10 + Art. 53 du règlement IA européen.
Pour l'analytique SAP, le schéma canonique est concret : générer 50 000-200 000 paires ABAP-vers-SQL et BW-vers-Datasphere à partir d'un jeu seed façonné à la main, filtrer sévèrement, puis LoRA-fine-tuner (C258) sur le résultat.

Points clés

Trois familles — Self-Instruct (enseignant génère depuis seeds), Self-Play (modèle joue les deux rôles), Distillation (imiter un enseignant plus fort).
Modes d'échec — effondrement de mode, amplification d'hallucinations, copie verbatim depuis l'enseignant ; mitigés par déduplication agressive et filtrage factuel.
Garde-fous — déduplication MinHash + SemDeDup, filtrage factuel contre base de référence, journalisation de provenance Art. 10 + Art. 53 du règlement IA sur chaque échantillon.
Schéma SAP — API frontière génère 50 K-200 K paires ABAP-SQL / BW-Datasphere / Q-R depuis seeds faits main ; filtrer agressivement ; fine-tuning LoRA (C258).
Économie — 50 à 200x moins cher que l'étiquetage humain aux tarifs frontière 2026 ; l'écart de qualité se referme à chaque sortie.

Termes employés sur cette page

Self-Instruct: Méthode (Wang et al. 2023) où un LLM enseignant amorce un jeu de données d'instructions à partir d'un petit ensemble de départ en générant de nouvelles paires instruction-réponse dans le même style ; l'Alpaca de 7 Md fut la première démonstration largement reconnue.
Self-Play (SPIN): Procédure d'entraînement où le même modèle génère puis évalue ses propres sorties, un signal de récompense ou un juge sélectionnant les sorties préférées pour le tour d'entraînement suivant ; réduit la dépendance aux étiquettes externes.
Distillation: Entraîner un modèle élève plus petit à imiter les sorties d'un modèle enseignant plus grand ; déplace le coût d'inférence du temps de service vers le temps d'entraînement et produit des modèles compacts conservant une grande partie de la capacité de l'enseignant.
Mode collapse: Mode de défaillance de la génération de données synthétiques où l'enseignant émet de façon répétée une bande étroite de motifs ; l'élève se sur-spécialise alors sur cette bande et échoue sur des entrées hors distribution.
Decision owner: La personne responsable qui accepte l'arbitrage et finance l'action suivante.
Semantic contract: La définition partagée des termes métier, indicateurs, entités et règles d'accès utilisée par les outils et les équipes.
Control plane: La couche qui applique politique, accès, traçabilité (lineage), supervision et escalade à travers le modèle opérationnel.
Evidence grade: Une étiquette qui distingue le fait vérifié, le signal directionnel, l'hypothèse modélisée et l'observation de terrain.

Sources

Fiche complète réservée aux abonnés. Ce que la fiche complète ajoute : le cadre de décision complet · la comparaison SAP · Snowflake · Databricks · Fabric · les pièges courants et leur correctif · l'aide-mémoire · les schémas d'architecture · les blocs de code · les chiffres à citer.

Ouvrir dans l'application →