Hallucination

Un modèle de langage génère du texte en prédisant la suite la plus probable, sans vérifier les faits au fur et à mesure. Lorsqu’il manque d’information, il peut combler le vide avec une citation, une date ou une référence inventée, formulée avec le même aplomb qu’un fait exact. C’est un peu comme un élève qui, à l’oral, préfère improviser une réponse crédible plutôt que d’avouer qu’il ne sait pas. Ancrer le modèle dans des documents fiables (RAG), lui demander ses sources et faire relire les points sensibles par un humain réduisent le risque, sans le supprimer totalement.