Menu
CoddyTech

Почему важно количество токенов

Часть раздела Основы путешествия по AI Prompts на Coddy. Урок 9 из 23.

Токены важны по трём причинам

Стоимость. Сервисы ИИ взимают плату за каждый токен, причём выходные токены стоят дороже входных. Разговорчивый запрос, генерирующий длинный ответ, обходится дороже краткого.

Скорость. ИИ генерирует результат по одному токену за раз. Короткие ответы приходят быстрее.

Ограничения контекста. У каждой модели есть максимальное количество токенов на один диалог (контекстное окно). Длинные запросы оставляют меньше места для ответов.

Вот почему важна эффективность. «Не могли бы вы помочь мне, подробно объяснив, какой город является столицей Франции?» (~20 токенов) даёт такой же ответ, как «Какова столица Франции?» (~7 токенов), но обходится дешевле и выполняется быстрее.

Для справки: GPT-4o стоит около $2.50/$10 за миллион входных/выходных токенов; Claude Sonnet — $3/$15. Миллион токенов — это примерно 750 000 слов, поэтому даже при обычном использовании расходы накапливаются.

Попробуйте сами

В этом уроке нет задания по программированию.

quiz iconПроверьте себя

В этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.

Все уроки раздела Основы