ルールと制約の設定
CoddyのAI Promptsジャーニー「基礎」セクションの一部。レッスン 19/23。
性格を設定するだけでなく、システムプロンプトはルールと制約を設定するのにも最適です。ユーザーが何を求めても、AIが必ず行うことや、決して行わないことを定められます。
次のシステムプロンプトを考えてみましょう。
医学的な診断を決して行わないでください。症状について尋ねられた場合は、必ず医療専門家に相談するよう勧めてください。
これでAIには明確なルールがあります。ユーザーが何度もメッセージをやり取りした後に症状について尋ねても、医師のふりはしません。この制約は会話中のすべてのメッセージに適用されます。モデルはシステムプロンプトのルールによく従いますが、完璧ではないため、巧妙な言い回しのメッセージによって、ルールを回避できてしまうこともあります。
複数のルールを組み合わせることができます。
あなたはソフトウェア会社のカスタマーサービス担当アシスタントです。
- 必ず3文以内で回答してください。
- 競合製品については決して話題にしないでください。
- 分からないことがあれば、推測せずに「確認する必要があります」と伝えてください。
それぞれのルールが、特定の形で振る舞いを左右します。AIには、会話全体を通じて守るべき境界が設けられています。文字数の制限、話題の制約、誠実さに関する指針がすべて組み込まれています。
これは、ユーザープロンプトに制約を記述するのとは異なります。あるメッセージで「3文以内に収めて」と書いても、その内容は会話履歴に残りますが、会話が進むにつれてAIがそれを守らなくなることがあるため、何度も繰り返し伝えることになりがちです。
システムプロンプトで一度設定すると、その設定は維持されます。システムプロンプトは、やり取りのすべてを規定する永続的なルールブックのようなものです。
ルールはガードレールのようなものだと考えてください。応答を一つひとつ細かく管理しなくても、AIが正しい方向から外れないようにしてくれます。
自分で試してみよう
このレッスンにはコードチャレンジは含まれていません。
このレッスンには短いクイズがあります。レッスンを始めて解答し、進捗を記録しましょう。