시스템 프롬프트 충돌

What 시스템 프롬프트가 한 가지를 말하지만 사용자 프롬프트가 다른 것을 말하면 어떻게 될까요? 이는 충돌이며, AI가 이를 어떻게 해결하는지 이해하면 더 나은 프롬프트를 작성하는 데 도움이 됩니다.

이 시스템 프롬프트를 상상해 보세요:

항상 격식 있는 영어로 응답하세요. 축약형을 절대 사용하지 마세요.

그런 다음 다음 사용자 프롬프트를 보냅니다:

Reply casually, like you're texting a friend. What's the weather like today?

이제 AI가 막혔습니다.

시스템 프롬프트는 격식을 요구합니다. 사용자 프롬프트는 편안한 말투를 요구합니다. 어느 쪽이 우선할까요?

일반적으로 시스템 프롬프트가 우선하지만, 항상 절대적인 것은 아닙니다. AI는 두 가지의 균형을 맞추려고 하며, 이로 인해 어색하고 일관성 없는 결과가 나올 수 있습니다. AI가 공식적으로 응답하면서도 친근한 어조를 시도하여 이상한 혼합체를 만들어 낼 수도 있습니다.

충돌은 시스템 프롬프트 내부에서도 발생합니다. 다음을 살펴보세요:

응답은 50단어 미만으로 유지하세요. 항상 자세하고 철저한 설명을 제공하세요.

이 규칙들은 서로 모순됩니다. AI는 간결하면서도 철저할 수 없기 때문에 타협하며, 두 요구 사항 중 어느 것도 제대로 충족하지 못하는 경우가 많습니다.

충돌을 피하려면 새로운 규칙을 추가하기 전에 시스템 프롬프트를 검토하세요. 스스로에게 물어보세요. 이 지침들 중 서로 반대 방향으로 작용하는 것이 있나요? AI가 규칙을 일관되게 따르기를 원한다면, 다른 어떤 내용도 그 규칙을 약화시키지 않도록 하세요. 명확하고 모순되지 않는 지침은 신뢰할 수 있는 behavior를 만들어 냅니다.