Les données synthétiques sont des données produites par un programme plutôt que recueillies dans le monde réel. En IA, il s’agit le plus souvent de texte, de code, d’images ou de dossiers écrits par un autre modèle. Quand on dit que « l’IA s’entraîne maintenant sur l’IA », c’est de cela qu’on parle.
Ça semble circulaire, et dans certains cas c’est un problème. Dans d’autres, c’est un outil pratique. Ce billet explique la différence en date de novembre 2026, et ce que ça signifie si vous dirigez une entreprise et que vous avez vos propres dossiers.
Ce que sont les données synthétiques, en termes simples
Pensez aux problèmes d’exercice d’un manuel. Un enseignant peut les écrire à la main, ou générer des variantes d’un bon problème : même idée, nouveaux chiffres. Les variantes ne sont pas de vraies questions d’examen de l’an dernier, mais elles peuvent quand même enseigner la notion.
Les données synthétiques fonctionnent de la même façon. On demande à un modèle d’écrire des exemples : des questions avec leurs réponses, de courtes leçons, des courriels de clients, de fausses factures. Ces exemples servent ensuite à entraîner ou à tester un modèle.
Comment les laboratoires d’IA s’en servent
Pour enseigner une compétence avec des exemples propres. Un article de 2023 de Microsoft Research, « Textbooks Are All You Need », a entraîné un petit modèle de code appelé phi-1, de 1,3 milliard de paramètres. Ses données d’entraînement comprenaient environ 6 milliards de jetons de données du Web choisies pour leur « qualité de manuel », plus environ 1 milliard de jetons de manuels et d’exercices générés avec GPT-3.5. Les auteurs l’ont entraîné pendant quatre jours sur huit processeurs graphiques et ont rapporté 50,6 % à HumanEval, un test de programmation. Ce n’est pas la note qui compte. C’est qu’avec des données soigneusement choisies et générées, on pouvait beaucoup avec un petit modèle. Ce sont les résultats des auteurs sur un test public, et les résultats de tests ne se transposent pas toujours à votre travail.
Pour combler des lacunes. Les données réelles sont inégales. Il peut y avoir beaucoup de cas courants et très peu de cas rares. Des exemples générés peuvent ajouter des cas rares, comme une demande de remboursement inhabituelle ou une situation fiscale délicate, pour y mettre le modèle à l’épreuve.
Pour créer des évaluations. Des laboratoires et des entreprises utilisent des modèles pour écrire des questions de test, qui sont ensuite vérifiées par des personnes ou par du code.
Pour éviter les données réelles. Quand le réel est privé ou réglementé, une équipe peut fabriquer des dossiers semblables pour le développement et les démonstrations. C’est une pratique courante en logiciel, bien avant l’IA.
Les risques
L’effondrement des modèles
En 2023, des chercheurs dont Ilia Shumailov et Ross Anderson ont publié « The Curse of Recursion: Training on Generated Data Makes Models Forget » (une version a paru plus tard dans Nature, en 2024). Ils ont constaté que lorsque des modèles sont entraînés sur du contenu généré par des modèles antérieurs, les cas inhabituels des données d’origine, les « queues de distribution », disparaissent au fil des générations, et les modèles se dégradent d’une manière difficile à renverser. Ils ont appelé cela l’effondrement des modèles. Ils l’ont montré dans plusieurs types de modèles génératifs, dont des modèles de langage, et ont suggéré que les données humaines authentiques prennent de la valeur à mesure que le contenu généré se répand en ligne.
Deux précisions honnêtes. D’abord, la recherche décrit ce qui arrive quand des modèles sont entraînés sur du contenu généré, y compris de façon répétée. Elle ne dit pas que tout usage de données synthétiques échoue : les laboratoires mélangent, filtrent et vérifient ce qu’ils génèrent, et l’article phi-1 ci-dessus est un exemple où les données générées aident. Ensuite, l’importance de l’effondrement dans la pratique d’un laboratoire donné est un sujet que les chercheurs continuent d’étudier. Nous n’en dirions pas plus.
Biais et angles morts
Un modèle écrit ce qu’il sait écrire. S’il a un angle mort, comme une région, un métier, un parler ou un accent, les exemples qu’il génère partagent cet angle mort. S’entraîner dessus peut le renforcer. C’est un raisonnement fondé sur le fonctionnement de la méthode, pas un chiffre mesuré, mais c’est pourquoi les données générées demandent une vérification extérieure au modèle.
Avoir l’air réel sans l’être
Les exemples synthétiques sont plausibles. C’est leur but, et aussi leur risque. Un faux courriel de client ne contiendra pas les tournures étranges de vos vrais clients. Une fausse facture ne contiendra pas les erreurs que commettent vraiment vos fournisseurs. Un système éprouvé seulement sur des cas synthétiques bien rangés peut paraître meilleur qu’il ne l’est.
La vie privée n’est pas automatique
Des dossiers générés à partir de dossiers réels peuvent quand même révéler des choses sur de vraies personnes s’ils sont faits sans soin. « Synthétique » n’est pas une catégorie juridique qui rend les renseignements personnels sûrs. Si vous fabriquez des données semblables à partir de dossiers de clients au Québec, au Canada ou aux États-Unis, demandez à votre responsable de la protection des renseignements personnels ou à votre avocat comment elles sont produites et vérifiées.
Quand vos propres données comptent davantage
Pour la plupart des PME, la question n’est pas « comment obtenir plus de données d’entraînement? ». Vous n’entraînez probablement pas de modèle. La question est « qu’est-ce que le modèle sait de nous quand il répond? ».
Les modèles connaissent le monde public. Ils ne connaissent pas :
- votre liste de prix et ce que vous facturez vraiment pour un travail urgent;
- quels clients ont 30 jours net et lesquels paient d’avance;
- comment vous décrivez un travail, ce que couvre votre garantie, ce que vous ne ferez pas;
- l’historique d’un client : ce qu’il a acheté, ce qui a mal tourné, qui lui a parlé en dernier.
Aucune donnée générée ne peut fournir cela, parce que ce n’a jamais été écrit à un endroit qu’un modèle peut lire. C’est le vrai avantage d’une petite entreprise : des faits sur ses propres clients et son propre travail que personne d’autre n’a. Quand un modèle travaille à partir de ces faits au moment où il répond, les résultats tendent à être plus précis que lorsqu’il devine.
Cela explique aussi pourquoi l’article de Shumailov vous concerne. À mesure que le Web public est de plus en plus écrit par des machines, des dossiers réels, d’origine claire, deviennent plus précieux à garder propres.
Ce que ça change pour votre entreprise
1. Utilisez des données synthétiques pour les essais et les démonstrations, et étiquetez-les. Fabriquez de faux clients et de fausses factures pour essayer un processus. Marquez-les clairement pour qu’ils ne se mêlent jamais aux vrais.
2. N’ajustez pas une décision sur des données synthétiques seules. Pour vérifier qu’un agent traite votre vrai travail, testez sur des exemples réels et passés dont une personne connaît déjà les réponses.
3. Gardez vos dossiers réels propres et au même endroit. Noms, prix, politiques, historique des travaux. C’est la part qu’un modèle ne peut pas inventer à votre place.
4. Demandez aux fournisseurs d’où viennent leurs données. Pour tout ce qui est entraîné en votre nom : quelle part est générée, comment a-t-elle été vérifiée, et des données de vrais clients ont-elles servi?
5. Soyez prudent avec les dossiers semblables fabriqués à partir de vrais. Vérifiez auprès de la personne qui s’occupe de la protection des renseignements personnels avant de les partager.
Ce que ça donne chez Humonix
Humonix n’entraîne pas de modèles : il n’y a donc pas de données d’entraînement synthétiques derrière notre produit. Ce que nous utilisons, ce sont des données d’exemple pour les démonstrations, et nous les étiquetons. Les exemples travaillés de notre site sont indiqués comme fictifs, et nos environnements de démonstration utilisent des données d’exemple étiquetées, pas des dossiers de clients.
Le vrai travail va dans l’autre sens : Know est le dossier unique où vivent les faits d’un client, et Hue répond à partir de lui en montrant d’où vient chaque réponse, une personne approuvant tout ce qui sort. Chaque fonction d’une page de module porte la mention Disponible, Accès anticipé ou À venir, pour que vous voyiez ce qui fonctionne aujourd’hui. Rien de tout cela ne promet un résultat précis.
Pour le portrait d’ensemble, lisez L’entreprise agentique.
Sources
- Shumailov et coll., « The Curse of Recursion: Training on Generated Data Makes Models Forget » (arXiv:2305.17493); aussi paru dans Nature, 2024 (« AI models collapse when trained on recursively generated data »)
- Gunasekar et coll., « Textbooks Are All You Need » (arXiv:2306.11644, 2023)
Ce billet est de l’information générale, pas un avis technique ni juridique.