Données synthétiques

Quand les données réelles sont rares, coûteuses à annoter ou sensibles, on peut en fabriquer : dialogues rédigés par un grand modèle de langage, images de synthèse, fichiers clients fictifs qui imitent les statistiques d’un vrai fichier. Elles servent souvent à l’ajustement aux instructions, à la distillation ou à l’entraînement au raisonnement. Leur limite principale est qu’elles reproduisent les défauts du générateur, et leur diversité peut s’appauvrir si un modèle s’entraîne trop sur ses propres productions. Elles ne garantissent pas non plus automatiquement l’anonymat. C’est un peu comme un simulateur de vol : très utile, sans remplacer totalement l’expérience réelle.