コンテキストウィンドウ
CoddyのAI Promptsジャーニー「基礎」セクションの一部。レッスン 10/23。
`context` `window`(コンテキストウィンドウ)はAIのメモリ制限であり、一度に保持できるトークンの最大数です。`prompt`、`conversation`履歴、`system`プロンプト、そしてAIの応答のすべてを収めなければならない(`must` `fit`)、固定サイズの容器として考えてみてください。
モデルによってcontext windowのサイズは異なります。一部の古いモデルは約4,000トークンを処理します。より新しいモデルは100,000トークン以上をサポートしている場合があります。
制限に達すると、AIはそれ以上の情報を処理できなくなります。
そのウィンドウを埋める要素は以下の通りです:
| コンポーネント | スペースを占有するか? |
|---|---|
| 現在の prompt | はい |
| conversation 内の過去のメッセージ | はい |
| system プロンプト | はい |
| AI の応答 | はい |
これが、長い会話が問題になり得る理由です。やり取りが1回増えるごとにトークンが追加されます。最終的に、AIは新しいコンテンツのためのスペースを確保するために、`conversation`の以前の部分を「忘れる」必要があります。
これが起こると、コンテキストが失われ、一貫性のない回答を返したり、以前に出した指示を忘れたりする可能性があります。
チャレンジ
会話内のすべての要素はコンテキストウィンドウの容量を消費するため、効率的なプロンプティングとは、コンパクトな応答で完全な情報を取得することを意味します。できるだけトークン効率の良い形式で、AIから1週間分の完全なスケジュール(7日間すべて)を取得してください。
AIの応答は以下の条件を満たす必要があります:
- 7日間すべての曜日名を含んでいること:
月曜日、火曜日、水曜日、木曜日、金曜日、土曜日、日曜日(「月曜」「火曜」などの省略形も可) - 全体で30単語以内(語数)であること
フォーマット例:
月曜日: ジム
火曜日: 仕事
...このように7日間すべてについて記述します。
CoddyのAIチューターとこのチャレンジを始めよう
このレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。