La fenêtre de contexte
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy. Leçon 10 sur 23.
La context window est la limite de mémoire de l’IA : le nombre maximal de tokens qu’elle peut contenir à la fois. Imagine-la comme un conteneur de taille fixe qui must fit tout : ton prompt, l’historique de la conversation, le system prompt et la réponse de l’IA.
Différents modèles ont des tailles de fenêtre de contexte différentes. Certains modèles plus anciens gèrent environ 4 000 tokens. Les modèles plus récents peuvent prendre en charge 100 000 tokens ou plus.
Une fois que vous atteignez la limite, l’IA ne peut tout simplement pas traiter d’informations supplémentaires.
Voici ce qui remplit cette window :
| Composant | Prend de la place ? |
|---|---|
| Votre prompt actuel | Oui |
| Messages précédents dans la conversation | Oui |
| Prompt system | Oui |
| Réponse de l'IA | Oui |
C’est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange aller-retour ajoute des tokens. Finalement, l’IA doit « oublier » les premières parties de la conversation pour faire de la place au nouveau contenu.
Lorsque cela se produit, il perd le contexte et peut donner des réponses incohérentes ou oublier les instructions que vous lui avez données précédemment.
Défi
Puisque tout ce qui figure dans une conversation occupe de l’espace dans la fenêtre de contexte, une formulation efficace consiste à obtenir des informations complètes dans des réponses compactes. Demandez à l’IA de vous fournir un planning hebdomadaire complet (les 7 jours) dans le format utilisant le moins de jetons possible. La réponse doit être en français.
La réponse de l’IA doit :
- Contenir les 7 noms de jours :
lundi,mardi,mercredi,jeudi,vendredi,samedietdimanche - Comporter au total 30 mots ou moins
Format d’exemple :
lundi : Salle de sport
mardi : Travail
...et ainsi de suite pour les 7 jours.
Commencez ce défi avec le tuteur IA de Coddy
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
2Comment l'IA vous lit — Les Tokens
Qu'est-ce qu'un token ?Mots ≠ TokensPourquoi le nombre de tokens est importantLa fenêtre de contexteLes tokens dans d'autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore