La fenêtre de contexte
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy — leçon 10 sur 23.
La fenêtre de contexte est la limite de mémoire de l'IA — le nombre maximum de jetons qu'elle peut traiter à la fois. Considérez-la comme un conteneur de taille fixe qui doit tout contenir : votre prompt, l'historique de la conversation, le prompt système et la réponse de l'IA.
Différents modèles ont des tailles de fenêtre de contexte différentes. Certains modèles plus anciens gèrent environ 4 000 tokens. Les modèles plus récents peuvent prendre en charge 100 000 tokens ou plus.
Une fois la limite atteinte, l'IA ne peut tout simplement pas traiter d'informations supplémentaires.
Voici ce qui remplit cette fenêtre :
| Composant | Prend de l'espace ? |
|---|---|
| Votre prompt actuel | Oui |
| Messages précédents de la conversation | Oui |
| Prompt système | Oui |
| Réponse de l'IA | Oui |
C'est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange de va-et-vient ajoute des jetons. À terme, l'IA doit « oublier » les parties précédentes de la conversation pour faire de la place au nouveau contenu.
Lorsque cela se produit, il perd le contexte et peut donner des réponses incohérentes ou oublier les instructions que vous avez données précédemment.
Défi
Puisque tout dans une conversation occupe de l'espace dans la fenêtre de contexte, un prompt efficace signifie obtenir des informations complètes dans des réponses compactes. Faites en sorte que l'IA vous donne un emploi du temps hebdomadaire complet (les 7 jours) dans le format le plus efficace possible en termes de jetons.
La réponse de l'IA doit :
- Contenir les noms des 7 jours :
lundi,mardi,mercredi,jeudi,vendredi,samedietdimanche - Faire 30 mots ou moins au total
- Ne pas contenir les mots
le,la,les,est,sont,suroupour
Aide-mémoire
La fenêtre de contexte est la limite de mémoire de l'IA — le nombre maximum de jetons qu'elle peut traiter à la fois. C'est un conteneur de taille fixe qui contient votre prompt, l'historique de la conversation, le prompt système et la réponse de l'IA.
Différents modèles ont des tailles de fenêtre de contexte différentes, allant d'environ 4 000 jetons dans les anciens modèles à plus de 100 000 jetons dans les plus récents.
Ce qui remplit la fenêtre de contexte :
- Votre prompt actuel
- Les messages précédents de la conversation
- Le prompt système
- La réponse de l'IA
Les conversations longues consomment plus de jetons à chaque échange. Lorsque la limite est atteinte, l'IA doit écarter les parties antérieures de la conversation pour accommoder le nouveau contenu, perdant potentiellement le contexte et donnant des réponses incohérentes.
Commencez ce défi avec le tuteur IA de Coddy
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
2Comment l'IA vous lit — Les Tokens
Qu'est-ce qu'un token ?Mots ≠ TokensPourquoi le nombre de tokens est importantLa fenêtre de contexteLes tokens dans d'autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore