Xung đột trong lời nhắc hệ thống

Điều gì xảy ra khi prompt hệ thống nói một đằng, còn prompt người dùng lại nói một nẻo? Đây là một xung đột, và hiểu cách AI giải quyết xung đột sẽ giúp bạn viết prompt tốt hơn.

Hãy tưởng tượng có chỉ dẫn hệ thống sau:

Luôn trả lời bằng tiếng Anh trang trọng. Không bao giờ dùng dạng viết tắt.

Sau đó, bạn gửi lời nhắc này cho người dùng:

Reply casually, like you're texting a friend. What's the weather like today?

Bây giờ AI bị mắc kẹt.

Lời nhắc hệ thống yêu cầu cách diễn đạt trang trọng. Lời nhắc của người dùng yêu cầu ngôn ngữ thân mật. Yêu cầu nào được ưu tiên?

Thông thường, system prompt được ưu tiên, nhưng không phải lúc nào cũng tuyệt đối. Mức độ ưu tiên của system prompt tùy thuộc vào mô hình: các mô hình lớn thường tuân theo system prompt, còn các mô hình nhỏ thường làm theo chỉ dẫn xuất hiện sau cùng. AI cố gắng cân bằng cả hai, nên có thể tạo ra kết quả gượng gạo, thiếu nhất quán. AI có thể trả lời một cách trang trọng nhưng vẫn cố giữ giọng thân thiện, tạo nên một kiểu kết hợp kỳ lạ.

Xung đột cũng xảy ra bên trong một prompt hệ thống. Hãy xem:

Giữ câu trả lời dưới 50 từ. Luôn giải thích chi tiết, đầy đủ.

Những quy tắc này mâu thuẫn với nhau. AI không thể vừa ngắn gọn vừa đầy đủ, nên phải thỏa hiệp và thường không đáp ứng tốt yêu cầu nào.

Để tránh xung đột, hãy xem lại lời nhắc hệ thống trước khi thêm quy tắc mới. Hãy tự hỏi: có hướng dẫn nào trong số này mâu thuẫn với nhau không? Nếu muốn AI luôn tuân theo một quy tắc, hãy đảm bảo không có gì khác làm suy yếu quy tắc đó. Hướng dẫn rõ ràng, không mâu thuẫn sẽ tạo ra hành vi đáng tin cậy.