IntermédiaireEntraînement & données
RAG (génération augmentée par récupération)
En anglais : Retrieval-Augmented Generation
Architecture qui, avant de générer une réponse, recherche dans une collection de documents les passages pertinents et les fournit au modèle de langage comme contexte.
Un modèle de langage ne connaît que ce qu’il a vu à l’entraînement, jusqu’à sa date de coupure, et ignore les documents internes d’une organisation. Le RAG lui apporte ces informations au moment de la question : les documents sont découpés en fragments, convertis en embeddings et stockés dans une base vectorielle ; la question déclenche une recherche sémantique, souvent suivie d’un reranking, et les meilleurs passages sont insérés dans le prompt. Contrairement au fine-tuning, le modèle n’est pas modifié : il suffit de mettre à jour les documents, et les réponses peuvent citer leurs sources. Le RAG réduit les hallucinations sans les supprimer. C’est un examen à livre ouvert plutôt qu’une récitation de mémoire.
Exemple
Le service RH d’une entreprise déploie un assistant qui répond aux questions des salariés en s’appuyant sur la convention collective et les accords internes, avec un lien vers chaque passage cité.
Notions liées
Base de données vectorielle
IntermédiaireSystème de stockage conçu pour enregistrer des embeddings et retrouver très rapidement ceux qui sont les plus proches d’un vecteur donné, même parmi des millions d’éléments.
Chunking (découpage en fragments)
IntermédiaireÉtape de préparation qui découpe de longs documents en fragments plus courts, appelés chunks, avant de les convertir en embeddings et de les indexer pour la recherche.