La fenêtre de contexte
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy — leçon 10 sur 23.
La fenêtre de contexte (context window) est la limite de mémoire de l'IA—le nombre maximum de jetons qu'elle peut contenir en même temps. Pensez-y comme à un conteneur de taille fixe qui doit pouvoir contenir tout le reste : votre prompt, l'historique de la conversation, le system prompt et la réponse de l'IA.
Différents modèles ont différentes tailles de `window` de `context`. Certains modèles plus anciens gèrent environ 4 000 tokens. Les modèles plus récents peuvent prendre en charge 100 000 tokens ou plus.
Une fois la limite atteinte, l'IA ne peut tout simplement plus traiter d'informations supplémentaires.
Voici ce qui remplit cette window :
| Composant | Occupe de l'espace ? |
|---|---|
| Votre prompt actuel | Oui |
| Messages précédents dans la conversation | Oui |
| System prompt | Oui |
| Réponse de l'IA | Oui |
C'est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange de va-et-vient ajoute des jetons. Finalement, l'IA doit "oublier" les parties plus anciennes de la conversation pour faire de la place pour le nouveau contenu.
Lorsque cela se produit, il perd le context et peut donner des réponses incohérentes ou oublier les instructions que vous avez données plus tôt.
Défi
Comme tout ce qui se trouve dans une conversation occupe de l'espace dans la fenêtre de contexte, un prompt efficace consiste à obtenir des informations complètes dans des réponses compactes. Amenez l'IA à vous donner un planning hebdomadaire complet (les 7 jours) dans le format le plus économe en jetons possible. La réponse doit être en français.
La réponse de l'IA doit :
- Contenir le nom des 7 jours de la semaine :
lundi,mardi,mercredi,jeudi,vendredi,samedietdimanche - Faire 30 mots ou moins au total
- Ne pas contenir les mots
le,la,les,est,sont,suroupour
Exemple de format :
Lundi : Gym
Mardi : Travail
...et ainsi de suite pour les 7 jours.
Commencez ce défi avec le tuteur IA de Coddy
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
2Comment l'IA vous lit — Les Tokens
Qu'est-ce qu'un token ?Mots ≠ TokensPourquoi le nombre de tokens est importantLa fenêtre de contexteLes tokens dans d'autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore