Tarification au token

Un token correspond à un fragment de texte, souvent un morceau de mot. Les fournisseurs affichent généralement un prix par million de tokens, distinct pour l’entrée et pour la sortie, cette dernière étant le plus souvent plus chère. Le coût d’une requête dépend donc de la longueur du prompt, des documents fournis, de la réponse et, pour les modèles de raisonnement, des tokens de réflexion. C’est comparable à un compteur d’eau : on paie au volume consommé. La mise en cache des prompts, des modèles plus petits ou des réponses plus courtes permettent de réduire la facture.