토큰 수가 중요한 이유
Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨 — 23개 중 9번째.
토큰이 중요한 세 가지 이유
비용. AI 서비스는 토큰당 요금을 부과하며, 출력 토큰은 입력 토큰보다 비용이 더 많이 듭니다. 긴 응답을 생성하는 수다스러운 프롬프트는 간결한 프롬프트보다 더 많은 비용이 듭니다.
속도. AI는 한 번에 하나의 토큰씩 출력을 생성합니다. 응답이 짧을수록 더 빠르게 반환됩니다.
컨텍스트 제한. 모든 모델은 대화당 최대 토큰 용량(컨텍스트 창)을 가집니다. 프롬프트가 길어지면 응답을 위한 공간이 줄어듭니다.
이것이 효율성이 중요한 이유입니다. "프랑스의 수도가 어디인지 아주 자세하게 설명해 주시겠어요?" (~20 토큰)은 "프랑스의 수도는 어디인가요?" (~7 토큰)와 동일한 답변을 얻습니다 — 더 낮은 비용과 더 빠른 속도로 말이죠.
참고로 GPT-4o의 비용은 입력/출력 토큰 100만 개당 약 $2.50/$10이며, Claude Sonnet은 $3/$15입니다. 100만 토큰은 대략 750,000단어이므로 가벼운 사용만으로도 비용이 꽤 쌓일 수 있습니다.
치트 시트
토큰은 AI 사용의 세 가지 주요 측면에 영향을 미칩니다:
비용: AI 서비스는 토큰당 요금을 부과하며, 출력 토큰은 입력 토큰보다 비용이 더 많이 듭니다.
속도: AI는 한 번에 하나의 토큰씩 출력을 생성하므로, 응답이 짧을수록 더 빠릅니다.
컨텍스트 제한: 모델은 대화당 최대 토큰 용량(컨텍스트 창)을 가집니다. 프롬프트가 길어질수록 응답을 위한 공간이 줄어듭니다.
효율적인 프롬프트는 비용을 절감하고 속도를 향상시킵니다. 예:
- "Can you please help me by explaining in great detail what the capital city of France is?" (~20 토큰)
- "What is the capital of France?" (~7 토큰)
둘 다 동일한 답변을 얻지만, 두 번째가 더 효율적입니다.
가격 참고: GPT-4o의 비용은 입력/출력 토큰 100만 개당 약 $2.50/$10이며, Claude Sonnet은 약 $3/$15입니다. 100만 토큰은 약 750,000단어에 해당합니다.
직접 해보기
이 레슨에는 코드 챌린지가 없습니다.
실력 점검이 레슨에는 짧은 퀴즈가 포함되어 있습니다. 레슨을 시작해 문제를 풀고 진행 상황을 기록하세요.