Thiết lập quy tắc và giới hạn

Ngoài tính cách, system prompt rất phù hợp để đặt ra các quy tắc và giới hạn: những điều AI luôn phải làm hoặc tuyệt đối không được làm, bất kể người dùng yêu cầu gì.

Hãy xem lời nhắc hệ thống này:

Không bao giờ đưa ra chẩn đoán y tế. Nếu được hỏi về các triệu chứng, luôn khuyên người hỏi tham khảo ý kiến chuyên gia y tế.

Giờ đây, AI có một quy tắc nghiêm ngặt: nó sẽ không đóng vai bác sĩ, ngay cả khi người dùng hỏi về các triệu chứng sau đó nhiều tin nhắn. Quy tắc này áp dụng cho mọi tin nhắn trong cuộc trò chuyện. Các mô hình tuân theo quy tắc trong system prompt khá tốt nhưng không hoàn hảo, vì vậy đôi khi một tin nhắn được diễn đạt khéo léo vẫn có thể lách qua quy tắc đó.

Bạn có thể kết hợp nhiều quy tắc với nhau:

Bạn là trợ lý dịch vụ khách hàng của một công ty phần mềm.
- Luôn trả lời trong 3 câu trở xuống.

- Không bao giờ bàn về sản phẩm của đối thủ cạnh tranh.
- Nếu không biết điều gì đó, hãy nói “Mình cần kiểm tra lại” thay vì đoán.

Mỗi quy tắc định hình hành vi theo một cách cụ thể. Giờ đây, AI có những giới hạn mà nó tuân thủ trong suốt cuộc trò chuyện: giới hạn độ dài, hạn chế chủ đề và hướng dẫn về tính trung thực đều được tích hợp sẵn.

Điều này khác với việc đặt các ràng buộc trong lời nhắc dành cho người dùng. Nếu bạn viết "giữ nội dung dưới 3 câu" trong một tin nhắn, câu đó vẫn nằm trong lịch sử cuộc trò chuyện, nhưng AI có thể dần không tuân theo khi cuộc trò chuyện kéo dài, nên bạn thường phải nhắc lại.

Trong lời nhắc hệ thống (system prompt), bạn thiết lập một lần và thiết lập đó sẽ được giữ nguyên. Lời nhắc hệ thống hoạt động như một bộ quy tắc lâu dài chi phối mọi lượt trao đổi.

Hãy hình dung các quy tắc như những thanh chắn bảo vệ. Chúng giúp AI đi đúng hướng mà bạn không cần quản lý quá chặt từng câu trả lời.