Conflitti tra prompt di sistema
Fa parte della sezione Fondamenti del percorso AI Prompts di Coddy. Lezione 21 di 23.
Cosa succede quando il tuo prompt di sistema dice una cosa, ma il tuo prompt utente ne dice un'altra? Questo è un conflitto e capire come l'IA lo risolve ti aiuta a scrivere prompt migliori.
Immagina questo prompt di sistema:
Rispondi sempre in inglese formale. Non usare mai forme contratte.
Poi invii questo prompt utente:
Reply casually, like you're texting a friend. What's the weather like today?
Ora l'IA è bloccata.
Il prompt di sistema richiede un tono formale. Il prompt dell’utente richiede un linguaggio informale. Quale prevale?
In generale, il prompt di sistema ha la priorità, ma non sempre in modo assoluto. La fermezza con cui viene rispettato dipende dal modello: i modelli grandi di solito seguono il prompt di sistema, mentre quelli piccoli spesso seguono l’istruzione più recente. L’IA cerca di bilanciare entrambi, e questo può produrre risultati goffi e incoerenti. Potrebbe rispondere formalmente, ma tentare di usare un tono amichevole, creando uno strano ibrido.
I conflitti si verificano anche all'interno di un prompt di sistema. Considera:
Mantieni le risposte sotto le 50 parole. Fornisci sempre spiegazioni dettagliate e approfondite.
Queste regole sono in contraddizione tra loro. L'IA non può essere concisa e approfondita allo stesso tempo, quindi scende a compromessi e spesso non soddisfa bene nessuno dei due requisiti.
Per evitare conflitti, rileggi il prompt di sistema prima di aggiungere nuove regole. Chiediti: alcune di queste istruzioni vanno in direzioni opposte? Se vuoi che l'IA segua una regola con costanza, assicurati che nient'altro la contraddica. Istruzioni chiare e non contraddittorie producono un comportamento affidabile.
Sfida
Il prompt di sistema per questa attività è già impostato e non puoi modificarlo:
Tutto ciò che dici deve essere scritto in maiuscolo.
Scrivi un prompt utente che sia in conflitto con esso: chiedi all'IA di nominare il suo frutto preferito usando solo lettere minuscole. Il tuo messaggio può contenere al massimo 15 parole.
La risposta dell'IA deve:
- Essere interamente in minuscolo
Cosa notare: i modelli di grandi dimensioni di solito danno la precedenza al prompt di sistema. I modelli piccoli come quello qui spesso seguono invece l'istruzione più recente. Ecco perché le istruzioni in conflitto rendono il comportamento imprevedibile e perché un prompt di sistema da solo non è una garanzia.
Mettiti alla provaQuesta lezione include un breve quiz. Inizia la lezione per rispondere e tenere traccia dei tuoi progressi.
Tutte le lezioni di Fondamenti
1Benvenuti nell'era dell'IA
Ma cos'è l'IA?L'IA non è GoogleL'IA non è umanaIl tuo primo compito concretoL'IA può sbagliareChe cos'è un modello?4Il prompt di sistema
Che cos’è il prompt di sistema?Definire personalità e ruoloDefinire regole e vincoliPrompt di sistema e prompt utente a confrontoConflitti tra prompt di sistemaCreare un prompt di sistemaIniezione del prompt di sistema