시스템 프롬프트 충돌

시스템 프롬프트가 한 가지를 말하지만 사용자 프롬프트가 다른 것을 말하면 어떻게 될까요? 이것은 충돌이며, AI가 이를 어떻게 해결하는지 이해하면 더 나은 프롬프트를 작성하는 데 도움이 됩니다.

다음 시스템 프롬프트를 상상해 보세요:

항상 격식 있는 영어로 답변하세요. 축약형은 절대 사용하지 마세요.

그런 다음 이 사용자 프롬프트를 보냅니다:

Reply casually, like you're texting a friend. What's the weather like today?

이제 AI가 막혔습니다.

시스템 프롬프트는 격식 있는 말투를 요구한다. 사용자 프롬프트는 편한 말투를 요구한다. 어느 쪽이 우선할까?

일반적으로 시스템 프롬프트가 우선시되지만, 항상 절대적인 것은 아닙니다. 얼마나 확고하게 우선시되는지는 모델에 따라 다릅니다. 대형 모델은 보통 시스템 프롬프트를 따르는 반면, 소형 모델은 종종 가장 마지막에 나온 지시를 따릅니다. AI는 두 지시의 균형을 맞추려 하며, 그 결과 어색하고 일관성 없는 응답이 나올 수 있습니다. 격식 있게 답하면서도 친근한 어조를 시도해 이상한 혼합체를 만들어 낼 수도 있습니다.

시스템 프롬프트 내부에서도 충돌이 발생합니다. 다음을 살펴보세요:

응답은 50단어 미만으로 작성하세요. 항상 자세하고 철저하게 설명하세요.

이 규칙들은 서로 모순됩니다. AI는 간결하면서도 철저할 수 없으므로 타협하게 되고, 흔히 어느 요구 사항도 제대로 충족하지 못합니다.

충돌을 피하려면 새로운 규칙을 추가하기 전에 시스템 프롬프트를 검토하세요. 다음 지침 중 서로 반대 방향으로 이끄는 것이 있는지 스스로에게 물어보세요. AI가 규칙을 일관되게 따르기를 원한다면, 다른 어떤 지침도 그 규칙을 약화하지 않도록 하세요. 명확하고 서로 모순되지 않는 지침은 신뢰할 수 있는 동작을 이끌어냅니다.