IntermédiaireModèles & LLM
Température
Paramètre de génération qui règle le degré d’aléa dans le choix des tokens : basse, elle rend les réponses plus prévisibles ; élevée, plus variées et surprenantes.
À chaque étape, le modèle attribue un score à chaque token possible, puis ces scores sont convertis en probabilités. La température divise les scores avant cette conversion : une valeur proche de zéro concentre presque toute la probabilité sur le token le plus probable, tandis qu’une valeur élevée aplatit la distribution et laisse leur chance à des choix moins attendus. Elle ne rend pas le modèle plus intelligent ni plus créatif au sens propre, elle change seulement la manière de tirer au sort. On peut la comparer à un curseur d’audace : bas pour extraire des données, plus haut pour un remue-méninges.
Exemple
Une équipe règle la température à une valeur basse pour extraire des montants de factures, et à une valeur plus haute pour générer des idées de slogans.
Notions liées
Hallucination
DébutantRéponse produite par un modèle d’IA qui paraît plausible et assurée, mais qui contient des informations fausses, inventées ou non étayées par ses sources.
Inférence
DébutantPhase où un modèle d’IA déjà entraîné est utilisé pour produire un résultat, comme une réponse, une prédiction ou une image, à partir de nouvelles données.