La fenêtre de contexte
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy. Leçon 10 sur 23.
La fenêtre de contexte (context window) est la limite de mémoire de l'IA — le nombre maximum de tokens qu'elle peut contenir en même temps. Pensez-y comme à un conteneur de taille fixe qui doit pouvoir tout contenir : votre prompt, l'historique de la conversation, le system prompt, et la réponse de l'IA.
Différents modèles ont différentes tailles de `window` de `context`. Certains modèles plus anciens gèrent environ 4 000 tokens. Les modèles plus récents peuvent prendre en charge 100 000 tokens ou plus.
Une fois la limite atteinte, l'IA ne peut tout simplement plus traiter d'informations supplémentaires.
Voici ce qui remplit cette window :
| Composant | Prend de la place ? |
|---|---|
| Votre prompt actuel | Oui |
| Messages précédents dans la conversation | Oui |
| System prompt | Oui |
| Réponse de l'IA | Oui |
C'est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange de va-et-vient ajoute des jetons. Finalement, l'IA doit "oublier" les parties antérieures de la conversation pour faire de la place au nouveau contenu.
Lorsque cela se produit, il perd le context et peut donner des réponses incohérentes ou oublier les instructions que vous avez données précédemment.
Défi
Puisque tout ce qui se trouve dans une conversation occupe de l'espace dans la fenêtre de contexte, l'ingénierie de prompt efficace consiste à obtenir des informations complètes dans des réponses compactes. Amenez l'IA à vous fournir un emploi du temps hebdomadaire complet (les 7 jours) dans le format le plus économe en jetons possible. La réponse doit être en français.
La réponse de l'IA doit :
- Contenir le nom des 7 jours :
lundi,mardi,mercredi,jeudi,vendredi,samedietdimanche - Faire 30 mots ou moins au total
Exemple de format :
Lundi : Sport
Mardi : Travail
...et ainsi de suite pour les 7 jours.
Commencez ce défi avec le tuteur IA de Coddy
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
2Comment l'IA vous lit — Les Tokens
Qu'est-ce qu'un token ?Mots ≠ TokensPourquoi le nombre de tokens est importantLa fenêtre de contexteLes tokens dans d'autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore