컨텍스트 윈도우

Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨 — 23개 중 10번째.

context window는 AI의 메모리 제한, 즉 한 번에 보유할 수 있는 최대 토큰 수입니다. 이것을 모든 것(사용자의 `prompt`, `conversation` 기록, `system` 프롬프트, AI의 응답)을 담아야 하는 고정된 크기의 상자로 생각해 보세요.

모델마다 context window 크기가 다릅니다. 일부 이전 모델은 약 4,000개의 토큰을 처리합니다. 최신 모델은 100,000개 이상의 토큰을 지원할 수도 있습니다.

한계에 도달하면 AI는 더 이상 추가 정보를 처리할 수 없습니다.

다음은 해당 window를 채우는 항목입니다:

구성 요소	공간을 차지하나요?
현재 prompt	예
conversation의 이전 메시지들	예
system prompt	예
AI의 응답	예

이것이 바로 긴 대화가 문제가 될 수 있는 이유입니다. 주고받는 대화가 누적될 때마다 토큰이 추가됩니다. 결국 AI는 새로운 콘텐츠를 위한 공간을 확보하기 위해 대화의 이전 부분을 "잊어야만" 합니다.

이러한 일이 발생하면, 대화 맥락(context)을 잃게 되어 일관되지 않은 답변을 제공하거나 이전에 내린 지시 사항을 잊어버릴 수 있습니다.

챌린지

대화의 모든 내용은 컨텍스트 창의 공간을 차지하므로, 효율적인 프롬프팅이란 간결한 응답으로 완전한 정보를 얻는 것을 의미합니다. AI가 가장 토큰 효율적인 형식으로 전체 주간 일정(7일 전체)을 제공하도록 프롬프트를 작성하세요. 응답은 한국어로 작성되어야 합니다.

AI 응답 조건: