컨텍스트 윈도우

Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨. 23개 중 10번째.

context window는 AI의 메모리 한도입니다. 즉, 한 번에 담을 수 있는 토큰의 최대 개수입니다. 이를 모든 것을 담아야 하는 고정 크기 컨테이너라고 생각해 보세요. 여기에는 사용자의 prompt, conversation 기록, system prompt, 그리고 AI의 응답이 모두 포함되어야 합니다.

모델마다 context window 크기가 다릅니다. 일부 오래된 모델은 약 4,000개의 토큰을 처리합니다. 최신 모델은 100,000개 이상의 토큰을 지원할 수도 있습니다.

한도에 도달하면 AI는 추가 정보를 처리할 수 없습니다.

다음 항목들이 해당 window를 채웁니다:

구성 요소	공간을 차지하나요?
현재 prompt	예
conversation의 이전 메시지	예
system prompt	예
AI의 응답	예

이것이 긴 대화가 문제가 될 수 있는 이유입니다. 주고받는 대화가 이어질 때마다 토큰이 추가됩니다. 결국 AI는 새로운 콘텐츠를 위한 공간을 마련하기 위해 대화의 앞부분을 “must” "잊어야" 합니다.

이런 일이 발생하면 context를 잃어버려 일관되지 않은 답변을 하거나 이전에 제공한 지시를 잊을 수 있습니다.

챌린지

대화의 모든 내용은 컨텍스트 창의 공간을 차지하므로, 효율적인 프롬프트 작성은 완전한 정보를 간결한 응답으로 얻는 것을 의미합니다. AI가 가능한 한 토큰 효율적인 형식으로 전체 주간 일정(7일 모두)을 제공하도록 하세요. 응답은 한국어로 작성되어야 합니다.

AI의 응답은 다음 조건을 충족해야 합니다: