Por que a contagem de Tokens importa
Parte da seção Fundamentos do Journey de AI Prompts da Coddy — lição 9 de 23.
Tokens importam por três motivos
Custo. Serviços de IA cobram por token, com tokens de saída custando mais do que os de entrada. Um prompt prolixo que gera uma resposta longa custa mais do que um conciso.
Velocidade. A IA gera a saída um token por vez. Respostas mais curtas retornam mais rápido.
Limites de contexto. Cada modelo possui uma capacidade máxima de tokens por conversa (a janela de contexto). Prompts longos deixam menos espaço para respostas.
É por isso que a eficiência é importante. "Você pode, por favor, me ajudar explicando em detalhes qual é a capital da França?" (~20 tokens) obtém a mesma resposta que "Qual é a capital da França?" (~7 tokens) — com menor custo e maior velocidade.
Para referência, o GPT-4o custa cerca de $2,50/$10 por milhão de tokens de entrada/saída; o Claude Sonnet custa $3/$15. Um milhão de tokens equivale a aproximadamente 750.000 palavras, então mesmo o uso casual se acumula.
Folha de consulta
Tokens impactam três aspectos principais do uso de IA:
Custo: Os serviços de IA cobram por token, sendo que os tokens de saída custam mais do que os tokens de entrada.
Velocidade: A IA gera a saída um token por vez, portanto, respostas mais curtas são mais rápidas.
Limites de contexto: Os modelos têm uma capacidade máxima de tokens por conversa (janela de contexto). Prompts mais longos deixam menos espaço para as respostas.
Prompts eficientes reduzem custos e melhoram a velocidade. Por exemplo:
- "Você poderia, por favor, me ajudar explicando em detalhes qual é a capital da França?" (~20 tokens)
- "Qual é a capital da França?" (~7 tokens)
Ambos obtêm a mesma resposta, mas o segundo é mais eficiente.
Referência de preço: O GPT-4o custa ~$2,50/$10 por milhão de tokens de entrada/saída; o Claude Sonnet custa ~$3/$15. Um milhão de tokens ≈ 750.000 palavras.
Experimente você mesmo
Esta lição não inclui um desafio de código.
Teste seus conhecimentosEsta lição inclui um quiz rápido. Comece a lição para respondê-lo e acompanhar seu progresso.
Todas as lições de Fundamentos
2Como a IA lê você — Tokens
O que são Tokens?Palavras ≠ TokensPor que a contagem de Tokens importaA Janela de ContextoTokens em outros idiomasTokens especiais que você nunca vê3Escrevendo Seus Primeiros Prompts
A IA fala Markdown (por padrão)Controlando o Formato de SaídaControlando Tom e EstiloQuando a IA ignora você