Por qué importa el conteo de tokens
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy — lección 9 de 23.
Los tokens importan por tres razones
Costo. Los servicios de IA cobran por token, y los tokens de salida cuestan más que los de entrada. Un prompt extenso que genera una respuesta larga cuesta más que uno conciso.
Velocidad. La IA genera la salida un token a la vez. Las respuestas más cortas se devuelven más rápido.
Límites de contexto. Cada modelo tiene una capacidad máxima de tokens por conversación (la ventana de contexto). Los prompts largos dejan menos espacio para las respuestas.
Es por esto que la eficiencia es importante. "¿Podrías por favor ayudarme explicándome con gran detalle cuál es la capital de Francia?" (~20 tokens) obtiene la misma respuesta que "¿Cuál es la capital de Francia?" (~7 tokens) — a un costo menor y con mayor rapidez.
Como referencia, GPT-4o cuesta alrededor de $2.50/$10 por cada millón de tokens de entrada/salida; Claude Sonnet cuesta $3/$15. Un millón de tokens son aproximadamente 750,000 palabras, por lo que incluso el uso ocasional se acumula.
Hoja de referencia
Los tokens afectan tres aspectos clave del uso de la IA:
Costo: Los servicios de IA cobran por token, y los tokens de salida cuestan más que los tokens de entrada.
Velocidad: La IA genera la salida token por token, por lo que las respuestas más cortas son más rápidas.
Límites de contexto: Los modelos tienen una capacidad máxima de tokens por conversación (ventana de contexto). Los prompts más largos dejan menos espacio para las respuestas.
Los prompts eficientes reducen los costos y mejoran la velocidad. Por ejemplo:
- "¿Podrías ayudarme explicándome con gran detalle cuál es la capital de Francia?" (~20 tokens)
- "¿Cuál es la capital de Francia?" (~7 tokens)
Ambos obtienen la misma respuesta, pero el segundo es más eficiente.
Referencia de precios: GPT-4o cuesta ~$2.50/$10 por cada millón de tokens de entrada/salida; Claude Sonnet cuesta ~$3/$15. Un millón de tokens ≈ 750,000 palabras.
Pruébalo tú mismo
Esta lección no incluye un desafío de código.
Esta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
2Cómo te lee la IA — Tokens
¿Qué son los tokens?Palabras ≠ TokensPor qué importa el conteo de tokensLa ventana de contextoTokens en otros idiomasTokens especiales que nunca ves3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora