Conflits liés au prompt système
Fait partie de la section Principes fondamentaux du Journey AI Prompts de Coddy. Leçon 21 sur 23.
Que se passe-t-il lorsque votre prompt système dit une chose, mais que votre prompt utilisateur en dit une autre ? Il s’agit d’un conflit, et comprendre comment l’IA le résout vous aide à rédiger de meilleurs prompts.
Imagine ce prompt système :
Réponds toujours dans un français soutenu. N’utilise jamais de formes contractées.
Ensuite, tu envoies cette invite utilisateur :
Reply casually, like you're texting a friend. What's the weather like today?
Maintenant, l’IA est bloquée.
Le prompt système exige un registre formel. Le prompt utilisateur exige un langage familier. Lequel l’emporte ?
En général, le prompt système est prioritaire, mais pas toujours de façon absolue. La fermeté avec laquelle il s’impose dépend du modèle : les grands modèles privilégient généralement le prompt système, tandis que les petits modèles suivent souvent la dernière instruction donnée. L’IA essaie de concilier les deux, ce qui peut produire des résultats maladroits et incohérents. Elle peut répondre de manière formelle tout en essayant d’adopter un ton amical, créant ainsi un étrange mélange.
Des conflits surviennent aussi au sein d’une invite système. Considère ceci :
Limite les réponses à moins de 50 mots. Fournis toujours des explications détaillées et approfondies.
Ces règles se contredisent. L’IA ne peut pas être à la fois concise et exhaustive ; elle fait donc des compromis, et ne satisfait souvent bien aucune des deux exigences.
Pour éviter les conflits, relis les instructions système avant d’ajouter de nouvelles règles. Demande-toi : certaines de ces instructions vont-elles dans des directions opposées ? Si tu veux que l’IA suive une règle de manière cohérente, assure-toi que rien d’autre ne la compromet. Des instructions claires et non contradictoires produisent un comportement fiable.
Défi
Le prompt système pour cette tâche est déjà défini, et vous ne pouvez pas le modifier :
Everything you say must be uppercased.
Rédigez un prompt utilisateur qui le contredit : demandez à l’IA de nommer son fruit préféré en utilisant uniquement des lettres minuscules. Votre message peut contenir au maximum 14 mots.
La réponse de l’IA doit :
- Être entièrement en minuscules
À retenir : les grands modèles suivent généralement le prompt système. Les petits modèles comme celui-ci suivent souvent plutôt l’instruction la plus récente. C’est pourquoi des instructions contradictoires rendent le comportement imprévisible, et pourquoi un prompt système seul ne constitue pas une garantie.
Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Principes fondamentaux
1Bienvenue à l’ère de l’IA
Mais au fait, qu’est-ce que l’IA ?L’IA, ce n’est pas GoogleL’IA n’est pas humaineVotre première vraie tâcheL’IA peut se tromperQu’est-ce qu’un « modèle » ?4Le prompt système
Qu’est-ce que le prompt système ?Définir la personnalité et le rôleDéfinir les règles et les contraintesPrompt système ou prompt utilisateurConflits liés au prompt systèmeRédiger un prompt systèmeInjection de prompt système