コンテキストウィンドウ
CoddyのAI Promptsジャーニー「基礎」セクションの一部 — レッスン 10/23。
コンテキストウィンドウは、AIのメモリ制限、つまり一度に保持できるトークンの最大数です。プロンプト、会話履歴、システムプロンプト、そしてAIの回答といったすべてを収める必要がある、固定サイズのコンテナだと考えてください。
モデルによってコンテキストウィンドウのサイズは異なります。一部の古いモデルは約4,000トークンを処理します。新しいモデルでは100,000トークン以上をサポートしている場合があります。
制限に達すると、AIはそれ以上の情報を処理できなくなります。
そのウィンドウを占めるものは以下の通りです：
| コンポーネント | スペースを占有するか？ |
|---|---|
| 現在のプロンプト | はい |
| 会話内の以前のメッセージ | はい |
| システムプロンプト | はい |
| AIの回答 | はい |
これが、長い会話が問題になる可能性がある理由です。やり取りが繰り返されるたびに、トークンが追加されます。最終的に、AIは新しいコンテンツのためのスペースを確保するために、会話の以前の部分を「忘れる」必要があります。
これが起こると、コンテキストが失われ、一貫性のない回答をしたり、以前に与えた指示を忘れたりすることがあります。
チャレンジ
会話のすべての内容はコンテキストウィンドウの容量を消費するため、効率的なプロンプティングとは、コンパクトな回答で完全な情報を得ることを意味します。AIに、可能な限りトークン効率の良い形式で、完全な週間スケジュール（全7日間）を出力させてください。
AIの回答は以下の条件を満たす必要があります：
- 7日間すべての名称（
月曜日、火曜日、水曜日、木曜日、金曜日、土曜日、日曜日）を含めること - 合計で30単語以内であること
です、だ、である、に、で、は、を、の、またはためといった単語を含めないこと
チートシート
コンテキストウィンドウは、AIのメモリ制限、つまり一度に処理できるトークンの最大数です。これは、プロンプト、会話履歴、システムプロンプト、およびAIの回答を保持する固定サイズのコンテナです。
モデルによってコンテキストウィンドウのサイズは異なり、旧モデルの約4,000トークンから、新モデルの100,000トークン以上に及びます。
コンテキストウィンドウを占めるもの:
- 現在のプロンプト
- 会話内の以前のメッセージ
- システムプロンプト
- AIの回答
長い会話では、やり取りのたびにより多くのトークンを消費します。制限に達すると、AIは新しいコンテンツを収容するために会話の初期の部分を破棄しなければならず、その結果、文脈が失われたり、一貫性のない回答が返されたりする可能性があります。
CoddyのAIチューターとこのチャレンジを始めよう
腕試しこのレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。