컨텍스트 윈도우

Coddy AI Prompts 여정의 기초 섹션에 포함된 레슨 — 23개 중 10번째.

컨텍스트 윈도우는 AI의 메모리 제한으로, 한 번에 보유할 수 있는 최대 토큰 수입니다. 이것을 사용자의 프롬프트, 대화 기록, 시스템 프롬프트, 그리고 AI의 응답까지 모든 것을 담아야 하는 고정된 크기의 컨테이너라고 생각하세요.

모델마다 컨텍스트 창 크기가 다릅니다. 일부 구형 모델은 약 4,000개의 토큰을 처리합니다. 최신 모델은 100,000개 이상의 토큰을 지원할 수도 있습니다.

제한에 도달하면 AI는 더 이상 추가 정보를 처리할 수 없습니다.

해당 창을 채우는 요소는 다음과 같습니다:

이것이 긴 대화가 문제가 될 수 있는 이유입니다. 각각의 주고받는 대화는 토큰을 추가합니다. 결국, AI는 새로운 콘텐츠를 위한 공간을 만들기 위해 대화의 이전 부분을 "잊어야" 합니다.

이런 일이 발생하면 문맥을 잃게 되어 일관성 없는 답변을 하거나 이전에 내린 지시사항을 잊어버릴 수 있습니다.

챌린지

대화의 모든 내용은 컨텍스트 창의 공간을 차지하므로, 효율적인 프롬프팅이란 간결한 응답으로 완전한 정보를 얻는 것을 의미합니다. AI가 가능한 한 토큰 효율적인 형식으로 전체 주간 일정(7일 전체)을 제공하도록 하세요.

AI의 응답은 반드시 다음을 준수해야 합니다:

치트 시트

컨텍스트 윈도우(context window)는 AI의 메모리 제한으로, 한 번에 처리할 수 있는 최대 토큰 수를 의미합니다. 이는 프롬프트, 대화 기록, 시스템 프롬프트 및 AI의 응답을 담는 고정된 크기의 컨테이너입니다.

모델마다 컨텍스트 윈도우 크기가 다르며, 이전 모델의 약 4,000 토큰부터 최신 모델의 100,000개 이상의 토큰까지 다양합니다.

컨텍스트 윈도우를 채우는 요소:

대화가 길어질수록 매 대화마다 더 많은 토큰이 소비됩니다. 제한에 도달하면 AI는 새로운 내용을 수용하기 위해 대화의 이전 부분을 삭제해야 하며, 이로 인해 문맥을 잃거나 일관성 없는 답변을 제공할 가능성이 있습니다.

Coddy의 AI 튜터와 함께 이 챌린지를 시작하세요

실력 점검

이 레슨에는 짧은 퀴즈가 포함되어 있습니다. 레슨을 시작해 문제를 풀고 진행 상황을 기록하세요.

1AI 시대에 오신 것을 환영합니다

4시스템 프롬프트

2AI가 텍스트를 읽는 방식 — 토큰

3첫 번째 프롬프트 작성하기