为什么 token 数量很重要
本课属于 Coddy AI Prompts 学习旅程的“基础知识”单元。第 9 课,共 23 课。
token 重要的三个原因
成本。AI 服务按 token 收费,而且输出 token 比输入 token 更贵。一个啰嗦的提示词引出一段很长的回复,花的钱会比简洁的提示词更多。
速度。AI 一次生成一个 token。回复越短,返回得越快。
上下文限制。每个模型在一次对话中能容纳的 token 都有上限(也就是上下文窗口)。提示词越长,留给回复的空间就越少。
所以效率很重要。英文提问“Can you please help me by explaining in great detail what the capital city of France is?”(约 20 个 token,意思是“你能详细地给我解释一下法国的首都是哪座城市吗?”)和“What is the capital of France?”(约 7 个 token,意思是“法国的首都是哪里?”)得到的答案一样,但后者更便宜,也更快。
作为参考,GPT-4o 每百万输入/输出 token 约 $2.50/$10;Claude Sonnet 则是 $3/$15。100 万个 token 大约相当于 75 万个英文单词,所以即使只是随便用用,费用也会慢慢累积起来。
亲手试试
这节课没有代码挑战。
这节课包含一个小测验。开始学习即可作答,并记录你的进度。