Контекстное окно
Часть раздела Основы путешествия по AI Prompts на Coddy — урок 10 из 23.
context window — это предел памяти ИИ — максимальное количество токенов, которое он может удерживать одновременно. Относитесь к нему как к контейнеру фиксированного размера, в который must fit всё: ваш prompt, история conversation, system prompt и ответ ИИ.
У разных моделей разные размеры контекстного окна. Некоторые более старые модели обрабатывают около 4 000 токенов. Более новые модели могут поддерживать 100 000 токенов и более.
Как только вы достигнете предела, ИИ просто не сможет обрабатывать дополнительную информацию.
Вот что заполняет это window:
| Компонент | Занимает место? |
|---|---|
| Ваш текущий prompt | Да |
| Предыдущие сообщения в conversation | Да |
| System prompt | Да |
| Ответ ИИ | Да |
Вот почему длинные диалоги могут стать проблемой. Каждый обмен сообщениями добавляет токены. В конечном итоге ИИ `must` «забыть» более ранние части `conversation`, чтобы освободить место для нового содержимого.
Когда это происходит, она теряет `context` и может давать непоследовательные ответы или забывать инструкции, которые вы дали ранее.
Задание
Поскольку всё в разговоре занимает место в контекстном окне, эффективный промптинг означает получение полной информации в компактных ответах. Заставьте ИИ предоставить вам полное расписание на неделю (все 7 дней) в максимально эффективном с точки зрения токенов формате. Ответ должен быть на русском языке.
Ответ ИИ должен:
- Содержать названия всех 7 дней недели:
понедельник,вторник,среда,четверг,пятница,субботаивоскресенье - Состоять из 30 слов или менее в общей сложности
Пример формата:
Понедельник: Спортзал
Вторник: Работа
...и так далее для всех 7 дней.
Начните это задание с ИИ-наставником Coddy
В этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
2Как ИИ читает вас — Токены
Что такое токены?Слова ≠ ТокеныПочему важно количество токеновКонтекстное окноТокены в других языкахСпециальные токены, которые вы никогда не видите