Контекстное окно
Часть раздела Основы путешествия по AI Prompts на Coddy. Урок 10 из 23.
Контекстное окно — это ограничение памяти ИИ: максимальное количество токенов, которое он может удерживать одновременно. Представь его как контейнер фиксированного размера, в котором должно поместиться всё: твой запрос, история разговора, системный запрос и ответ ИИ.
У разных моделей разный размер контекстного окна. Некоторые старые модели обрабатывают около 4 000 токенов. Более новые модели могут поддерживать 100 000 токенов или больше.
Как только вы достигнете лимита, ИИ просто не сможет обработать дополнительную информацию.
Вот что заполняет это окно:
| Компонент | Занимает место? |
|---|---|
| Текущий запрос | Да |
| Предыдущие сообщения в разговоре | Да |
| Системный запрос | Да |
| Ответ ИИ | Да |
Вот почему долгие разговоры могут стать проблематичными. Каждый обмен репликами добавляет токены. В конце концов ИИ приходится «забывать» предыдущие части разговора, чтобы освободить место для нового содержимого.
Когда это происходит, контекст теряется, и система может давать противоречивые ответы или забывать инструкции, которые вы дали ранее.
Задание
Поскольку всё в разговоре занимает место в контекстном окне, эффективное составление запросов означает получение полной информации в компактных ответах. Попросите ИИ предоставить вам полное расписание на неделю (все 7 дней) в максимально экономном по токенам формате. Ответ должен быть на английском языке.
Ответ ИИ должен:
- Содержать названия всех 7 дней:
Monday,Tuesday,Wednesday,Thursday,Friday,SaturdayиSunday - Содержать не более 30 слов в общей сложности
Пример формата:
Monday: Gym
Tuesday: Work
...и так далее для всех 7 дней.
В этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
2Как ИИ читает вас: токены
Что такое токены?Слова ≠ токеныПочему важно количество токеновКонтекстное окноТокены в других языкахСпециальные токены, которых вы не видите