Контекстное окно
Часть раздела Основы путешествия по AI Prompts на Coddy — урок 10 из 23.
Контекстное окно — это лимит памяти ИИ, максимальное количество токенов, которое он может удерживать одновременно. Представьте это как контейнер фиксированного размера, в который должно поместиться всё: ваш промпт, история диалога, системный промпт и ответ ИИ.
Разные модели имеют разные размеры контекстного окна. Некоторые старые модели обрабатывают около 4 000 токенов. Более новые модели могут поддерживать 100 000 токенов или больше.
Как только вы достигнете лимита, ИИ просто не сможет обрабатывать дополнительную информацию.
Вот что заполняет это окно:
| Компонент | Занимает место? |
|---|---|
| Ваш текущий промпт | Да |
| Предыдущие сообщения в беседе | Да |
| Системный промпт | Да |
| Ответ ИИ | Да |
Вот почему длинные диалоги могут стать проблематичными. Каждый обмен репликами добавляет токены. В конечном итоге ИИ должен «забывать» ранние части беседы, чтобы освободить место для нового контента.
Когда это происходит, он теряет контекст и может давать противоречивые ответы или забывать инструкции, которые вы дали ранее.
Задание
Поскольку всё в диалоге занимает место в контекстном окне, эффективный промптинг означает получение полной информации в компактных ответах. Добейтесь от ИИ полного расписания на неделю (все 7 дней) в максимально экономичном с точки зрения токенов формате.
Ответ ИИ должен:
- Содержать названия всех 7 дней недели:
понедельник,вторник,среда,четверг,пятница,субботаивоскресенье - Содержать не более 30 слов в общей сложности
- Не содержать слова
в,во,на,для,естьилиэто
Шпаргалка
Контекстное окно — это лимит памяти ИИ, максимальное количество токенов, которое он может обработать за один раз. Это контейнер фиксированного размера, в котором хранятся ваш промпт, история диалога, системный промпт и ответ ИИ.
Разные модели имеют разные размеры контекстного окна: от примерно 4 000 токенов в старых моделях до 100 000+ токенов в новых.
Что заполняет контекстное окно:
- Ваш текущий промпт
- Предыдущие сообщения в диалоге
- Системный промпт
- Ответ ИИ
Длинные диалоги потребляют больше токенов с каждым обменом репликами. Когда лимит достигнут, ИИ вынужден отбрасывать более ранние части диалога, чтобы разместить новый контент, что потенциально ведет к потере контекста и получению противоречивых ответов.
Начните это задание с ИИ-наставником Coddy
Проверьте себяВ этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
2Как ИИ читает вас — Токены
Что такое токены?Слова ≠ ТокеныПочему важно количество токеновКонтекстное окноТокены в других языкахСпециальные токены, которые вы никогда не видите