La ventana de contexto
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy — lección 10 de 23.
La ventana de contexto es el límite de memoria de la IA: el número máximo de tokens que puede procesar a la vez. Piénsalo como un contenedor de tamaño fijo en el que debe caber todo: tu prompt, el historial de la conversación, el prompt del sistema y la respuesta de la IA.
Diferentes modelos tienen diferentes tamaños de ventana de contexto. Algunos modelos más antiguos manejan alrededor de 4,000 tokens. Los modelos más nuevos podrían admitir 100,000 tokens o más.
Una vez que alcances el límite, la IA simplemente no puede procesar información adicional.
Esto es lo que llena esa ventana:
| Componente | ¿Ocupa espacio? |
|---|---|
| Tu prompt actual | Sí |
| Mensajes anteriores en la conversación | Sí |
| Prompt del sistema | Sí |
| Respuesta de la IA | Sí |
Esta es la razón por la cual las conversaciones largas pueden volverse problemáticas. Cada intercambio de ida y vuelta añade tokens. Eventualmente, la IA debe "olvidar" las partes anteriores de la conversación para dejar espacio a contenido nuevo.
Cuando esto sucede, pierde el contexto y puede dar respuestas inconsistentes u olvidar las instrucciones que diste anteriormente.
Desafío
Dado que todo en una conversación ocupa espacio en la ventana de contexto, el prompting eficiente consiste en obtener información completa en respuestas compactas. Haz que la IA te proporcione un horario semanal completo (los 7 días) en el formato más eficiente posible en cuanto a tokens.
La respuesta de la IA debe:
- Contener los nombres de los 7 días:
lunes,martes,miércoles,jueves,viernes,sábadoydomingo - Tener 30 palabras o menos en total
- No contener las palabras
el,la,los,las,es,está,son,están,en,sobre,paraopor
Hoja de referencia
La ventana de contexto es el límite de memoria de la IA: el número máximo de tokens que puede procesar a la vez. Es un contenedor de tamaño fijo que alberga tu prompt, el historial de la conversación, el prompt del sistema y la respuesta de la IA.
Diferentes modelos tienen diferentes tamaños de ventana de contexto, que van desde alrededor de 4,000 tokens en modelos más antiguos hasta más de 100,000 tokens en los más nuevos.
Qué llena la ventana de contexto:
- Tu prompt actual
- Mensajes anteriores en la conversación
- Prompt del sistema
- Respuesta de la IA
Las conversaciones largas consumen más tokens con cada intercambio. Cuando se alcanza el límite, la IA debe descartar las partes anteriores de la conversación para dar cabida al nuevo contenido, lo que puede provocar la pérdida de contexto y respuestas inconsistentes.
Empieza este desafío con el tutor de IA de Coddy
Ponte a pruebaEsta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
2Cómo te lee la IA — Tokens
¿Qué son los tokens?Palabras ≠ TokensPor qué importa el conteo de tokensLa ventana de contextoTokens en otros idiomasTokens especiales que nunca ves3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora