Контекстное окно

Часть раздела Основы путешествия по AI Prompts на Coddy. Урок 10 из 23.

context window — это ограничение памяти AI: максимальное количество токенов, которое он может одновременно хранить. Представь это как контейнер фиксированного размера, в который должно поместиться всё: твой prompt, история conversation, system prompt и ответ AI.

У разных моделей разный размер контекстного окна. Некоторые более старые модели обрабатывают около 4 000 токенов. Более новые модели могут поддерживать 100 000 токенов или больше.

Достигнув лимита, ИИ просто не может обработать дополнительную информацию.

Вот что заполняет это окно:

Компонент	Занимает место?
Ваш текущий prompt	Да
Предыдущие сообщения в conversation	Да
system prompt	Да
Ответ ИИ	Да

Вот почему длинные разговоры могут стать проблемой. Каждый обмен репликами добавляет токены. В конце концов ИИ должен «забыть» более ранние части разговора, чтобы освободить место для нового содержимого.

Когда это происходит, он теряет context и может давать непоследовательные ответы или забывать инструкции, которые вы давали ранее.

Задание

Поскольку всё в разговоре занимает место в контекстном окне, эффективное составление запросов означает получение полной информации в компактных ответах. Попросите ИИ предоставить вам полное расписание на неделю (все 7 дней) в максимально эффективном с точки зрения количества токенов формате. Ответ должен быть на русском языке.

Ответ ИИ должен: