규칙 및 제약 조건 설정

성격을 설정하는 것 외에도, 시스템 프롬프트는 규칙과 제약 조건을 설정하는 데 적합합니다. 즉, 사용자가 무엇을 요청하든 AI가 항상 해야 하거나 절대 해서는 안 되는 일들입니다.

다음 시스템 프롬프트를 생각해 보세요:

의학적 진단을 절대 제공하지 마세요. 증상에 대해 질문을 받으면 항상 의료 전문가와 상담하도록 권하세요.

이제 AI에는 엄격한 규칙이 있습니다. 사용자가 질문을 어떻게 표현하든 AI는 의사 행세를 하지 않습니다. 이 제약은 대화의 모든 메시지에 적용됩니다.

여러 규칙을 함께 쌓을 수 있습니다:

소프트웨어 회사의 고객 서비스 도우미입니다.
- 항상 3문장 이하로 답변하세요.

- 경쟁 제품에 대해 절대 이야기하지 마세요.
- 모르는 내용이 있다면 추측하지 말고 "확인해 봐야겠습니다"라고 말하세요.

각 규칙은 특정한 방식으로 동작을 형성합니다. 이제 AI는 대화 내내 준수해야 할 경계를 갖게 됩니다. 길이 제한, 주제 제한, 정직성 지침이 모두 포함되어 있습니다.

이는 사용자 프롬프트에 제약 조건을 넣는 것과는 다릅니다. 사용자 프롬프트에서는 매번 "3문장 이내로 유지하세요"를 반복해야 합니다.

시스템 프롬프트에서는 한 번 설정하면 계속 유지됩니다. 시스템 프롬프트는 모든 대화를 관장하는 지속적인 규칙집처럼 작동합니다.

규칙을 안전 가드레일이라고 생각하세요. 일일이 응답을 관리하지 않아도 AI가 올바른 방향을 유지하도록 도와줍니다.