Menu
CoddyTech

Por qué importa la cantidad de tokens

Parte de la sección Fundamentos del Journey de AI Prompts de Coddy. Lección 9 de 23.

Los tokens importan por tres razones

Costo. Los servicios de IA cobran por token, y los tokens de salida cuestan más que los de entrada. Un prompt verboso que genera una respuesta larga cuesta más que uno conciso.

Velocidad. La IA genera resultados de un token a la vez. Las respuestas más cortas llegan más rápido.

Límites de contexto. Cada modelo tiene una capacidad máxima de tokens por conversación (la ventana de contexto). Las instrucciones largas dejan menos espacio para las respuestas.

Por eso la eficiencia importa. "¿Podrías ayudarme explicando con todo detalle cuál es la capital de Francia?" (~20 tokens) obtiene la misma respuesta que "¿Cuál es la capital de Francia?" (~7 tokens), con un costo menor y mayor rapidez.

Como referencia, GPT-4o cuesta aproximadamente $2.50/$10 por millón de tokens de entrada/salida; Claude Sonnet cuesta $3/$15. Un millón de tokens equivale aproximadamente a 750,000 palabras, así que incluso un uso ocasional suma.

Pruébalo tú mismo

Esta lección no incluye un desafío de código.

quiz iconPonte a prueba

Esta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.

Todas las lecciones de Fundamentos