コンテキストウィンドウ
CoddyのAI Promptsジャーニー「基礎」セクションの一部 — レッスン 10/23。
context windowはAIのメモリ制限であり、一度に保持できるトークンの最大数です。これは、prompt、conversation履歴、system prompt、そしてAIの回答など、すべてをfitさせなければならない(must)固定サイズのコンテナのようなものと考えてください。
モデルによってコンテキストウィンドウのサイズは異なります。旧世代のモデルは約4,000トークンを処理します。より新しいモデルでは100,000トークン以上をサポートしている場合もあります。
制限に達すると、AIはそれ以上の情報を処理できなくなります。
ウィンドウを満たすものは以下の通りです:
| コンポーネント | スペースを占有するか? |
|---|---|
| 現在の prompt | はい |
| conversation 内の過去のメッセージ | はい |
| system prompt | はい |
| AI の応答 | はい |
これが、長い会話が問題になり得る理由です。やり取りの回数が増えるごとに、トークンが追加されます。最終的に、AIは新しいコンテンツのためのスペースを確保するために、`conversation` の以前のパートを「忘れる」必要があります。
これが起こると、コンテキストが失われ、一貫性のない回答を返したり、以前に出した指示を忘れたりする可能性があります。
チャレンジ
会話内のすべての内容はコンテキストウィンドウの容量を消費するため、効率的なプロンプティングとは、コンパクトな応答で完全な情報を取得することを意味します。AIから、可能な限り最もトークン効率の良いフォーマットで完全な1週間のスケジュール(7日間すべて)を取得してください。応答は英語である必要があります。
AIの応答は以下の条件を満たす必要があります:
- 7日間すべての曜日名(
Monday、Tuesday、Wednesday、Thursday、Friday、Saturday、Sundayまたは月曜日〜日曜日)が含まれていること - 合計で30単語以下であること
the、is、are、on、forという単語が含まれていないこと
フォーマット例:
Monday: Gym
Tuesday: Work
...のように7日間すべて記述します。
CoddyのAIチューターとこのチャレンジを始めよう
このレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。