AvancéEntraînement & données
LoRA (Low-Rank Adaptation)
En anglais : Low-Rank Adaptation
Méthode de fine-tuning économe qui gèle les poids d’origine d’un modèle et n’entraîne que de petites matrices de bas rang ajoutées à certaines de ses couches.
Affiner tous les paramètres d’un grand modèle exige beaucoup de mémoire et produit une copie complète à stocker pour chaque usage. Avec LoRA, les poids de base restent figés, et l’on apprend pour certaines matrices une correction exprimée comme le produit de deux matrices étroites, qui ne représente qu’une petite fraction des paramètres. L’adaptateur obtenu est léger, peut être fusionné au modèle ou chargé à la demande, et plusieurs adaptateurs peuvent partager un même modèle de base. Sa variante QLoRA applique ce principe à un modèle de base quantifié, ce qui réduit encore la mémoire nécessaire. L’idée ressemble à un calque transparent posé sur une carte : on l’annote sans redessiner la carte.
Exemple
Un studio entraîne un adaptateur LoRA léger pour qu’un modèle de génération d’images reproduise son style graphique, sans modifier le modèle de base partagé par ses autres projets.
Notions liées
Fine-tuning (affinage)
IntermédiaireTechnique qui poursuit l’entraînement d’un modèle déjà pré-entraîné sur un jeu de données plus restreint, afin de modifier ses poids et de l’adapter à une tâche, un domaine ou un style.
Modèle à poids ouverts (open weights)
IntermédiaireModèle dont les paramètres entraînés, appelés poids, sont publiés et téléchargeables, ce qui permet de l’exécuter, de l’héberger et de l’adapter soi-même, selon les conditions de sa licence.