Por qué importa la cantidad de tokens
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy. Lección 9 de 23.
Los tokens importan por tres razones
Costo. Los servicios de IA cobran por token, y los tokens de salida cuestan más que los de entrada. Un prompt verboso que genera una respuesta larga cuesta más que uno conciso.
Velocidad. La IA genera resultados de un token a la vez. Las respuestas más cortas llegan más rápido.
Límites de contexto. Cada modelo tiene una capacidad máxima de tokens por conversación (la ventana de contexto). Las instrucciones largas dejan menos espacio para las respuestas.
Por eso la eficiencia importa. "¿Podrías ayudarme explicando con todo detalle cuál es la capital de Francia?" (~20 tokens) obtiene la misma respuesta que "¿Cuál es la capital de Francia?" (~7 tokens), con un costo menor y mayor rapidez.
Como referencia, GPT-4o cuesta aproximadamente $2.50/$10 por millón de tokens de entrada/salida; Claude Sonnet cuesta $3/$15. Un millón de tokens equivale aproximadamente a 750,000 palabras, así que incluso un uso ocasional suma.
Pruébalo tú mismo
Esta lección no incluye un desafío de código.
Esta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
2Cómo te lee la IA: tokens
¿Qué son los tokens?Palabras ≠ tokensPor qué importa la cantidad de tokensLa ventana de contextoTokens en otros idiomasTokens especiales que nunca ves3Escribe tus primeros prompts
La IA habla Markdown (por defecto)Controlar el formato de salidaControlar el tono y el estiloCuando la IA te ignora