IntermédiaireEntraînement & données
Fine-tuning (affinage)
En anglais : Fine-tuning
Technique qui poursuit l’entraînement d’un modèle déjà pré-entraîné sur un jeu de données plus restreint, afin de modifier ses poids et de l’adapter à une tâche, un domaine ou un style.
Plutôt que de repartir de zéro, on prend un modèle généraliste et on l’entraîne encore sur des exemples ciblés : vocabulaire juridique, format de réponse imposé, ton d’une marque. Ces nouveaux comportements sont alors inscrits dans ses paramètres, un peu comme un médecin généraliste qui suit une spécialisation. C’est la différence essentielle avec le RAG, qui ne modifie pas le modèle mais lui fournit des documents au moment de la question : le fine-tuning convient pour changer un comportement ou un style, le RAG pour donner accès à des informations à jour ou privées. Des méthodes économes comme LoRA permettent d’affiner un modèle sans réentraîner tous ses poids.
Exemple
Un éditeur de logiciels affine un petit modèle open weights sur ses tickets de support résolus pour qu’il rédige des réponses dans le format et le ton attendus par ses équipes.
Notions liées
Apprentissage par transfert
IntermédiaireApproche qui réutilise les connaissances acquises par un modèle sur une tâche ou un domaine pour apprendre plus vite, et avec moins de données, une autre tâche apparentée.
Instruction tuning (ajustement aux instructions)
AvancéÉtape de fine-tuning supervisé où un modèle pré-entraîné apprend, sur des paires consigne-réponse, à comprendre et exécuter des instructions formulées en langage naturel.