La fenêtre de contexte
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy. Leçon 10 sur 23.
La fenêtre de contexte est la limite de mémoire de l’IA : le nombre maximal de tokens qu’elle peut contenir à la fois. Considérez-la comme un conteneur de taille fixe dans lequel tout doit tenir : votre invite, l’historique de la conversation, l’invite système et la réponse de l’IA.
Différents modèles ont des tailles de fenêtre de contexte différentes. Certains modèles plus anciens gèrent environ 4 000 tokens. Les modèles plus récents peuvent prendre en charge 100 000 tokens ou plus.
Une fois que vous atteignez la limite, l’IA ne peut tout simplement pas traiter d’informations supplémentaires.
Voici ce qui remplit cette fenêtre :
| Composant | Occupe de l’espace ? |
|---|---|
| Votre invite actuelle | Oui |
| Messages précédents de la conversation | Oui |
| Invite système | Oui |
| Réponse de l’IA | Oui |
C’est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange ajoute des tokens. Finalement, l’IA doit « oublier » les premières parties de la conversation pour faire de la place au nouveau contenu.
Lorsque cela se produit, il perd le contexte et peut donner des réponses incohérentes ou oublier les instructions que vous lui avez données précédemment.
Défi
Puisque chaque élément d’une conversation occupe de l’espace dans la fenêtre de contexte, un prompt efficace consiste à obtenir des informations complètes dans des réponses concises. Demandez à l’IA de vous fournir un planning hebdomadaire complet (les 7 jours) dans le format le plus économe possible en tokens. La réponse doit être en anglais.
La réponse de l’IA doit :
- Contenir les noms des 7 jours :
Monday,Tuesday,Wednesday,Thursday,Friday,SaturdayetSunday - Compter 30 mots ou moins au total
Format d’exemple :
Monday: Gym
Tuesday: Work
...et ainsi de suite pour les 7 jours.
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
2Comment l'IA vous lit — Les Tokens
Qu'est-ce qu'un token ?Mots ≠ TokensPourquoi le nombre de tokens est importantLa fenêtre de contexteLes tokens dans d'autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore