Задание правил и ограничений
Часть раздела Основы путешествия по AI Prompts на Coddy. Урок 19 из 23.
Помимо задания характера, системный промпт отлично подходит для установки правил и ограничений: того, что ИИ должен всегда делать или никогда не делать, независимо от просьб пользователя.
Рассмотри эту системную подсказку:
Никогда не ставь медицинские диагнозы. Если тебя спрашивают о симптомах, всегда рекомендуй обратиться к медицинскому специалисту.
Теперь у ИИ есть чёткое правило: он не будет изображать врача, даже если пользователь спросит о симптомах много сообщений спустя. Это ограничение действует для каждого сообщения в разговоре. Модели хорошо, но не идеально следуют правилам системного промпта, поэтому иногда хитро сформулированное сообщение всё же может обойти это ограничение.
Можно объединить несколько правил:
Ты — помощник службы поддержки клиентов компании-разработчика программного обеспечения.
- Всегда отвечай не более чем тремя предложениями.
- Никогда не обсуждай продукты конкурентов.
- Если чего-то не знаешь, скажи: «Мне нужно это проверить», вместо того чтобы гадать.
Каждое правило определённым образом влияет на поведение. Теперь у ИИ есть границы, которых он придерживается на протяжении всего разговора: ограничения на длину, ограничения по темам и рекомендации по честности — всё это заложено в него.
Это отличается от добавления ограничений в запрос пользователя. Если ты напишешь в одном сообщении «не больше 3 предложений», оно останется в истории разговора, но по мере его продолжения ИИ может отступить от этого требования, поэтому тебе часто приходится повторять его.
В системном промпте ты задаёшь это один раз, и настройка сохраняется. Системный промпт действует как постоянный свод правил, регулирующий каждый обмен сообщениями.
Считай правила ограничителями. Они помогают ИИ придерживаться курса, и тебе не нужно контролировать каждый ответ.
Попробуйте сами
В этом уроке нет задания по программированию.
В этом уроке есть небольшой тест. Начните урок, чтобы ответить на вопросы и сохранить прогресс.
Все уроки раздела Основы
1Добро пожаловать в эпоху ИИ
Что вообще такое ИИ?ИИ — это не GoogleИИ — не человекВаша первая настоящая задачаИИ может ошибатьсяЧто такое «модель»?4Системный промпт
Что такое системный промпт?Задание личности и ролиЗадание правил и ограниченийСистемный промпт и пользовательский промптКонфликты системных промптовСоздание системного промптаИнъекция в системный промпт