Контекстное окно
Часть раздела Основы путешествия по AI Prompts на Coddy — урок 10 из 23.
Context window — это лимит памяти ИИ: максимальное количество токенов, которое он может удерживать одновременно. Представьте его как контейнер фиксированного размера, который must fit всё: ваш prompt, история conversation, system prompt и ответ ИИ.
Разные модели имеют разный размер контекстного окна. Некоторые более старые модели обрабатывают около 4000 токенов. Более новые модели могут поддерживать 100 000 токенов или больше.
Как только вы достигнете лимита, ИИ просто не сможет обрабатывать дополнительную информацию.
Вот что заполняет это window:
| Компонент | Занимает место? |
|---|---|
| Ваш текущий prompt | Да |
| Предыдущие сообщения в conversation | Да |
| System prompt | Да |
| Ответ ИИ | Да |
Вот почему длинные диалоги могут стать проблематичными. Каждый обмен сообщениями добавляет токены. В конечном итоге ИИ должен «забыть» более ранние части диалога, чтобы освободить место для нового содержимого.
Когда это происходит, она теряет `context` и может давать непоследовательные ответы или забывать инструкции, которые вы дали ранее.
Задание
Поскольку всё в разговоре занимает место в контекстном окне, эффективный промптинг означает получение полной информации в компактных ответах. Заставьте ИИ предоставить вам полное расписание на неделю (все 7 дней) в максимально эффективном с точки зрения токенов формате. Ответ должен быть на русском языке.
Ответ ИИ должен:
- Содержать все 7 названий дней недели:
понедельник,вторник,среда,четверг,пятница,субботаивоскресенье - Содержать не более 30 слов в общей сложности
- Не содержать слов
на,для,это,есть,являетсяилиявляются
Пример формата:
понедельник: Спортзал
вторник: Работа
...и так далее для всех 7 дней.
Начните это задание с ИИ-наставником Coddy
В этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
2Как ИИ читает вас — Токены
Что такое токены?Слова ≠ ТокеныПочему важно количество токеновКонтекстное окноТокены в других языкахСпециальные токены, которые вы никогда не видите