La ventana de contexto
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy. Lección 10 de 23.
La ventana de contexto es el límite de memoria de la IA: el número máximo de tokens que puede contener a la vez. Piensa en ella como un contenedor de tamaño fijo en el que debe caber todo: tu solicitud, el historial de la conversación, la solicitud del sistema y la respuesta de la IA.
Los distintos modelos tienen diferentes tamaños de ventana de contexto. Algunos modelos más antiguos manejan alrededor de 4,000 tokens. Los modelos más nuevos podrían admitir 100,000 tokens o más.
Una vez que alcanzas el límite, la IA simplemente no puede procesar información adicional.
Esto es lo que ocupa esa ventana:
| Componente | ¿Ocupa espacio? |
|---|---|
| Tu prompt actual | Sí |
| Mensajes anteriores de la conversación | Sí |
| Prompt del sistema | Sí |
| Respuesta de la IA | Sí |
Por eso las conversaciones largas pueden volverse problemáticas. Cada intercambio de ida y vuelta añade tokens. Con el tiempo, la IA debe "olvidar" partes anteriores de la conversación para hacer espacio para contenido nuevo.
Cuando esto sucede, pierde el contexto y puede dar respuestas incoherentes u olvidar las instrucciones que le diste anteriormente.
Desafío
Dado que todo lo que aparece en una conversación ocupa espacio en la ventana de contexto, una indicación eficiente consiste en obtener información completa en respuestas compactas. Haz que la IA te proporcione un horario semanal completo (los 7 días) en el formato que use la menor cantidad de tokens posible. La respuesta debe estar en español.
La respuesta de la IA debe:
- Contener los 7 nombres de los días:
lunes,martes,miércoles,jueves,viernes,sábadoydomingo - Tener 30 palabras o menos en total
Formato de ejemplo:
lunes: Gimnasio
martes: Trabajo
...y así sucesivamente para los 7 días.
Esta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
2Cómo te lee la IA — Tokens
¿Qué son los tokens?Palabras ≠ TokensPor qué importa el conteo de tokensLa ventana de contextoTokens en otros idiomasTokens especiales que nunca ves3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora