システムプロンプトの競合

システムプロンプトに書かれている内容と、ユーザープロンプトに書かれている内容が異なる場合、どうなるでしょうか？これは矛盾であり、AIがどのように解決するかを理解すると、より良いプロンプトを書けるようになります。

次のシステムプロンプトを想像してください。

常に正式な英語で回答してください。短縮形は決して使用しないでください。

それから、このユーザープロンプトを送ります。

Reply casually, like you're texting a friend. What's the weather like today?

これでAIは行き詰まっています。

システムプロンプトは丁寧な表現を要求しています。ユーザープロンプトはくだけた表現を要求しています。どちらが優先されますか？

一般に、システムプロンプトが優先されますが、必ずしも絶対ではありません。どれほど強く優先されるかはモデルによって異なります。大規模なモデルは通常システムプロンプトに従う一方、小規模なモデルは最後に与えられた指示に従うことがよくあります。AIは両方のバランスを取ろうとするため、不自然で一貫性のない結果になることがあります。形式的に応答しながら親しみやすい口調を試み、奇妙な折衷表現になることもあります。

システムプロンプトの内部でも矛盾が起こります。次の例を考えてみましょう。

回答は50語未満にしてください。常に詳細で丁寧な説明をしてください。

これらのルールは互いに矛盾しています。AIは簡潔であると同時に詳細であることはできないため、妥協して、どちらの要件も十分に満たせないことがよくあります。

矛盾を避けるため、新しいルールを追加する前にシステムプロンプトを確認しましょう。これらの指示の中に、互いに相反するものはないか自問してください。AIにあるルールを一貫して守らせたいなら、ほかの指示がそれを損なわないようにしましょう。明確で矛盾のない指示は、信頼性の高い動作につながります。