Pourquoi le nombre de tokens compte
Fait partie de la section Principes fondamentaux du Journey AI Prompts de Coddy. Leçon 9 sur 23.
Les jetons comptent pour trois raisons
Coût. Les services d’IA facturent chaque jeton, les jetons de sortie coûtant plus cher que les jetons d’entrée. Une invite bavarde qui génère une longue réponse coûte plus cher qu’une invite concise.
Rapidité. L’IA génère sa réponse un jeton à la fois. Les réponses plus courtes arrivent plus vite.
Limites de contexte. Chaque modèle a une capacité maximale de jetons par conversation (la fenêtre de contexte). Les longues instructions laissent moins de place pour les réponses.
C'est pourquoi l'efficacité est importante. « Pourriez-vous m'aider en m'expliquant en détail quelle est la capitale de la France ? » (~20 tokens) obtient la même réponse que « Quelle est la capitale de la France ? » (~7 tokens), à moindre coût et plus rapidement.
À titre de référence, GPT-4o coûte environ 2,50 $/10 $ par million de jetons en entrée/sortie ; Claude Sonnet coûte 3 $/15 $. Un million de jetons correspond à environ 750 000 mots, donc même une utilisation occasionnelle finit par coûter cher.
Essayez vous-même
Cette leçon ne comprend pas de défi de code.
Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Principes fondamentaux
2Comment l’IA vous lit : les tokens
Que sont les tokens ?Mots ≠ tokensPourquoi le nombre de tokens compteLa fenêtre de contexteLes tokens dans d’autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore