La fenêtre de contexte
Fait partie de la section Principes fondamentaux du Journey AI Prompts de Coddy. Leçon 10 sur 23.
La fenêtre de contexte est la limite de mémoire de l’IA : le nombre maximal de jetons qu’elle peut contenir à la fois. Imaginez un contenant de taille fixe dans lequel tout doit tenir : votre requête, l’historique de la conversation, le message système et la réponse de l’IA.
Différents modèles ont des tailles de fenêtre de contexte différentes. Certains modèles plus anciens gèrent environ 4 000 jetons. Les modèles plus récents peuvent prendre en charge 100 000 jetons ou plus.
Une fois que tu atteins la limite, l’IA ne peut tout simplement pas traiter d’informations supplémentaires.
Voici ce qui remplit cette fenêtre :
| Composant | Occupe de l’espace ? |
|---|---|
| Votre invite actuelle | Oui |
| Messages précédents de la conversation | Oui |
| Invite système | Oui |
| Réponse de l’IA | Oui |
C’est pourquoi les longues conversations peuvent devenir problématiques. Chaque échange ajoute des jetons. Au bout d’un moment, l’IA doit « oublier » les premières parties de la conversation pour faire de la place au nouveau contenu.
Lorsque cela se produit, il perd le contexte et peut donner des réponses incohérentes ou oublier les instructions que vous lui avez données auparavant.
Défi
Comme tout ce qui figure dans une conversation occupe de l'espace dans la fenêtre de contexte, rédiger des prompts efficaces consiste à obtenir des informations complètes dans des réponses compactes. Demandez à l'IA de vous fournir un programme hebdomadaire complet (les 7 jours) dans le format le plus économe en tokens possible. La réponse doit être en anglais.
La réponse de l'IA doit :
- Contenir les noms des 7 jours :
Monday,Tuesday,Wednesday,Thursday,Friday,SaturdayetSunday - Compter 30 mots ou moins au total
Exemple de format :
Monday: Gym
Tuesday: Work
...et ainsi de suite pour les 7 jours.
Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Principes fondamentaux
2Comment l’IA vous lit : les tokens
Que sont les tokens ?Mots ≠ tokensPourquoi le nombre de tokens compteLa fenêtre de contexteLes tokens dans d’autres languesLes tokens spéciaux que vous ne voyez jamais3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore