A janela de contexto
Parte da seção Fundamentos do Journey de AI Prompts da Coddy. Lição 10 de 23.
A janela de contexto é o limite de memória da IA: o número máximo de tokens que ela consegue armazenar de uma só vez. Pense nela como um recipiente de tamanho fixo no qual tudo precisa caber: seu prompt, o histórico da conversa, o prompt do sistema e a resposta da IA.
Diferentes modelos têm janelas de contexto de tamanhos diferentes. Alguns modelos mais antigos lidam com cerca de 4.000 tokens. Modelos mais novos podem oferecer suporte a 100.000 tokens ou mais.
Depois que você atingir o limite, a IA simplesmente não poderá processar informações adicionais.
Veja o que ocupa essa janela:
| Componente | Ocupa espaço? |
|---|---|
| Seu prompt atual | Sim |
| Mensagens anteriores na conversa | Sim |
| Prompt do sistema | Sim |
| Resposta da IA | Sim |
É por isso que conversas longas podem se tornar problemáticas. Cada troca de mensagens acrescenta tokens. Com o tempo, a IA precisa “esquecer” partes anteriores da conversa para abrir espaço para novos conteúdos.
Quando isso acontece, ele perde o contexto e pode dar respostas inconsistentes ou esquecer instruções que você deu anteriormente.
Desafio
Como tudo em uma conversa ocupa espaço na janela de contexto, criar prompts eficientes significa obter informações completas em respostas compactas. Peça à IA uma programação semanal completa (todos os 7 dias) no formato mais eficiente possível em termos de tokens. A resposta deve ser em inglês.
A resposta da IA deve:
- Conter os nomes dos 7 dias:
Monday,Tuesday,Wednesday,Thursday,Friday,SaturdayeSunday - Ter no máximo 30 palavras ao todo
Exemplo de formato:
Monday: Gym
Tuesday: Work
...e assim por diante para todos os 7 dias.
Esta lição inclui um quiz rápido. Comece a lição para respondê-lo e acompanhar seu progresso.
Todas as lições de Fundamentos
2Como a IA lê você: tokens
O que são tokens?Palavras ≠ tokensPor que a contagem de tokens importaA janela de contextoTokens em outros idiomasTokens especiais que você nunca vê3Escrevendo seus primeiros prompts
A IA fala em Markdown (por padrão)Controlando o formato da saídaControlando o tom e o estiloQuando a IA ignora você