규칙 및 제약 조건 설정

성격을 설정하는 것 외에도, 시스템 프롬프트는 규칙과 제약 조건을 설정하는 데 적합합니다. 이는 사용자가 무엇을 요청하든 AI가 항상 해야 하거나 절대 해서는 안 되는 일입니다.

다음 시스템 프롬프트를 생각해 보세요:

의학적 진단을 절대 제공하지 마세요. 증상에 대한 질문을 받으면 항상 의료 전문가와 상담할 것을 권고하세요.

이제 AI에는 엄격한 규칙이 있습니다. 사용자가 질문을 어떻게 표현하든 AI는 의사 역할을 하지 않습니다. 이 제약은 대화의 모든 메시지에 적용됩니다.

여러 규칙을 함께 쌓을 수 있습니다:

당신은 소프트웨어 회사의 customer service assistant입니다.
- Always respond in 3 sentences or fewer.

- 절대 discuss competitor products에 대해 이야기하지 마세요.
- 무언가를 모른다면 추측하는 대신 "확인해 봐야 할 것 같아요"라고 말하세요.

각 규칙은 특정한 방식으로 행동을 형성합니다. 이제 AI는 대화 전반에 걸쳐 준수하는 경계를 갖게 되었습니다. 길이 제한, 주제 제한, 정직성 지침이 모두 내장되어 있습니다.

이는 사용자 프롬프트에 제약 조건을 넣는 것과는 다릅니다. 사용자 프롬프트에서는 매번 "3 sentences 미만으로 유지하세요"라고 반복해서 작성해야 합니다.

시스템 프롬프트에서는 한 번 설정하면 계속 유지됩니다. 시스템 프롬프트는 모든 대화를 관리하는 지속적인 규칙집처럼 작동합니다.

규칙을 가드레일이라고 생각하세요. 규칙은 각 응답을 일일이 관리하지 않아도 AI가 올바른 방향을 유지하도록 도와줍니다.