コンテキストウィンドウ
CoddyのAI Promptsジャーニー「基礎」セクションの一部。レッスン 10/23。
context window は AI のメモリ制限、つまり一度に保持できるトークンの最大数です。すべてを収めなければならない固定サイズのコンテナだと考えてください。そこには、あなたの prompt、conversation の履歴、system prompt、そして AI の応答をすべて fit させる必要があります。
モデルによって context window のサイズは異なります。古いモデルの中には、約 4,000 トークンを扱えるものもあります。新しいモデルでは、100,000 トークン以上をサポートしている場合があります。
上限に達すると、AI は追加の情報を処理できなくなります。
そのwindowを埋めるものは次のとおりです：
| コンポーネント | スペースを占有する？ |
|---|---|
| 現在のprompt | はい |
| conversation内の以前のメッセージ | はい |
| system prompt | はい |
| AIの応答 | はい |
これが、長いconversationが問題になる可能性がある理由です。やり取りを重ねるたびにトークンが追加されます。やがて、AIは新しい内容のための余地を作るために、conversationの初期の部分を「忘れ」なければなりません。
このようなことが起こると、contextを失い、一貫性のない回答をしたり、以前に与えた指示を忘れたりすることがあります。
チャレンジ
会話内のすべての内容はコンテキストウィンドウの容量を消費するため、効率的なプロンプトとは、簡潔な回答で完全な情報を得ることを意味します。AIに、可能な限りトークン効率の高い形式で1週間分の完全なスケジュール（7日間すべて）を出力させてください。回答は日本語にしてください。
AIの回答には以下が必要です：
- 7つすべての曜日名を含めること：
月曜日、火曜日、水曜日、木曜日、金曜日、土曜日、日曜日 - 全体で30語以内であること
形式の例：
月曜日：ジム
火曜日：仕事
…以下、7日間すべてについて同様に記載します。
腕試しこのレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。